AI 伺服器供應商大獎 HPE

近年來,生成式 AI 爆發式成長,從大型語言模型 (LLM) 到 AI 代理自動化,正全面推動企業數碼轉型。為了保障核心數據資產的安全,並確保 AI 推理的準確性與即時性,越來越多企業傾向於本地端或私有雲環境中自行搭建基礎設施。HPE ProLiant Compute Gen12 系列伺服器,以底層安全、高效能冷卻與自動化管理為核心,全面回應企業的需求,引領香港各規模企業在 AI 浪潮中加速前行。

在 AI 基建的部署過程中,客戶首要關心的往往是安全性。HPE ProLiant Compute Gen12 系列為此提供了業界領先的硬件級防護。

方案內置度身訂造的 iLO 伺服器管理晶片,將不可篡改的韌體直接嵌入晶片,建立堅實的矽晶信任根 (Silicon Root of Trust)。HPE 香港及澳門首席運算銷售主管 Thomas Mak 表示,該安全設計符合國際最高標準的保護模式,確保伺服器從開機、加載作業系統到運行 AI 任務的整個生命週期,均受到全方位監控與多層驗證。此外,HPE 在數據治理與私隱保護上也作嚴格的權限控制,例如限制新興的 AI 代理可存取與使用的數據邊界,防止敏感資料外洩。

Thomas Mak(左)稱,HPE ProLiant Compute Gen12 系列由 iLO 管理晶片做起安全,加上支援 NVIDIA 最新 GPU,讓企業以強大效能的基建,建立混合雲架構。吳仕偉(右)則表示,聯強夥同本地經銷商,將 AI 方案推向不同規模的企業。
Thomas Mak(左)稱,HPE ProLiant Compute Gen12 系列由 iLO 管理晶片做起安全,加上支援 NVIDIA 最新 GPU,讓企業以強大效能的基建,建立混合雲架構。吳仕偉(右)則表示,聯強夥同本地經銷商,將 AI 方案推向不同規模的企業。
HPE 的直接液冷技術
HPE 的直接液冷技術

伴隨 AI 運算效能大幅提升,伺服器耗電量與發熱量劇增。Thomas Mak 稱,以插滿 8 張最新 NVIDIA RTX PRO Blackwell GPU 的 AI 伺服器為例,在滿載運行時,單機伺服器的功耗逼近 6KW,遠超出標準機櫃的供電與散熱承受範圍。HPE 亦能為企業客戶支援多達 40KW 的新一代機櫃生態系統。

為了符合可持續發展及企業 ESG 合規要求,HPE 將源自超級電腦的直接液冷 (Direct Liquid Cooling,DLC) 技術引入 HPE ProLiant Compute Gen12 平台。包括來自早年收購 SGI 及 Cray 的專利技術,HPE 建立高效冷卻系統。在 Green500 基準測試報告,全球能源效益最佳的前 10 部超級電腦,有 7 部採用 HPE 的技術,印證在管理耗能與綠色運算上的技術實力。

HPE Morpheus 平台介面
HPE Morpheus 平台介面

傳統企業 IT 架構大多以虛擬機器為主的平台,而要邁向 AI 就緒 (AI Ready) 的基建,則要過渡至支援微服務 (Microservices) 和容器 (Container) 的 Kubernetes 平台,建立混合雲 (Hybrid Cloud) 環境。同時,建立 AI 代理系統要開放 API,使代理能自動化執行各種繁複工作。

為了簡化轉型,HPE 在 2024 年收購 Morpheus 平台融入 HPE GreenLake 的管理架構。透過單一用戶介面,企業可同時管理既有的虛擬機器、容器、私有雲等資源,讓系統進程與資產分佈一目了然。

在整體架構佈局上,HPE 提倡由邊緣至雲端的策略:

  • 邊緣:HPE Networking 無線網絡產品與 EdgeLine 邊緣伺服器,在數據源頭先處理與初階推理 (Inferencing),避免無效數據霸佔網絡頻寬。
  • 雲端:將篩選後的數據集中儲存,以便訓練 AI 模型、高負載推理與核心數據治理控制。

HPE 選擇與長期策略夥伴聯強 (Synnex) 合作,提供強大的技術驅動 (Tech Drive) 支援,更在市場上扮演了「技術轉譯者」的角色。

聯強產品規劃部資深總監吳仕偉表示,針對本地約 1,800 間經銷商 (Resellers) 夥伴,有些中小型經銷商及中小企業客戶,本身缺乏獨立開發 AI 應用程式的資源。聯強透過聯合市場營銷活動,將市場上獨立軟件供應商 (ISV) 的成熟 AI 應用程式,與 HPE ProLiant Compute Gen12 伺服器整合成方案銷售。

同時,聯強更特別設立測試實驗室與示範體驗中心,夥伴或企業客戶可以親臨現場體驗這些 AI 方案在實際業務環境的效益,有效跨越 AI 技術的高門檻,協助香港企業在 AI 時代中把握先機,實現智能化轉型。