數據中心網絡設備供應商大獎 HPE Networking

人工智能熱潮已改變各行各業,並正在革新全球數據中心的網絡架構。 HPE Networking 憑著出色的技術和方案,榮獲今年「I.T.至專數據中心網絡設備供應商大獎」。

HPE Networking 香港及澳門總監及地區總經理陳家和指出,過去數據中心主要處理南北向 (North-South) 的外部進出流量,但在大規模 AI 運算世界中,網絡則充斥著大量 GPU 與 AI 工作負載之間的東西向 (East-West) 內部流量。

陳家和表示,傳統數據中心難以應付數據複雜且負載量多的 AI 運算,企業需建立 AI Ready 的網絡架構,方能應付需求。
陳家和表示,傳統數據中心難以應付數據複雜且負載量多的 AI 運算,企業需建立 AI Ready 的網絡架構,方能應付需求。

為了因應這巨大轉變,企業必須建構「AI Ready」的網絡架構,在技術上導入主幹和枝葉式架構 (Leaf and Spine) 及 EVPN VXLAN,作靈活控制和擴展。同時配合 RoCE v2 的無數據封包丟失技術,能有效降低 GPU 之間的通訊時延,應付 AI 工作負載的運算需求。

Mist AI 支援 AI Ops 智能化管理,主動式診斷故障和排錯。
Mist AI 支援 AI Ops 智能化管理,主動式診斷故障和排錯。

陳家和又稱,AI 數據中心必須引入 AI Ops 技術作智能化管理。傳統網絡管理往往流於被動,而在 AI 時代,HPE 為企業客戶在網絡加入 Mist AI 引擎,營運團隊可視網絡的端到端環境,並在發生問題造成影響之前,作出主動 (Proactive) 與預測性的診斷故障與排錯。

此外,透過「意圖導向網絡」(Intent-Based Networking) 與網絡即代碼 (Network as a Code) 的概念,企業可以實行更高程度的自動化管理,將網絡變動中因人為錯誤導致的出錯率降至最低。

HPE Juniper Networks QFX5250 提供高達 102.4Tbps 頻寬,結合 HPE Juniper Networking 的 Junos 軟體技術、HPE 領先的液冷技術,以及 AIOps 智慧功能,為 AI 基礎架構帶來簡化營運管理的網路解決方案。
HPE Juniper Networks QFX5250 提供高達 102.4Tbps 頻寬,結合 HPE Juniper Networking 的 Junos 軟體技術、HPE 領先的液冷技術,以及 AIOps 智慧功能,為 AI 基礎架構帶來簡化營運管理的網路解決方案。

針對 AI 叢集 (AI cluster) 常見的擁塞與時延問題,高規格的硬件設備與深度緩衝區 (Deep Buffer) 設計成為解決關鍵。目前 HPE Networking 最新推出的 QFX5250 交換機提供 800Gbps 至 1.6Tbps 的超高吞吐量。陳家和指出,這設備憑藉低時延與深度緩衝區的優勢,能顯著減少微型突發 (Micro-burst) 的網絡擁塞情況。這確保 GPU 之間通訊的穩定,更為密集的 AI 運算提供具備高度可預測性的效能表現,打破過往數據中心在處理海量數據時的效能樽頸。

隨著 HPE 與 Juniper Networks 合併,兩大巨頭在研發上的協同效應也正加速。陳家和表示,這場具里程碑意義的合併,將 HPE 傳統強項如運算、儲存及混合雲優勢,與 Juniper Networks 的 AI 驅動網絡技術結合,為客戶提供從基礎設施到網絡的端到端整體 AI 方案。

雙方更在研發上互相發揮,陳家和舉例,QFX5250 交換機用上 HPE 的伺服器液體冷卻技術,配合硬件的低時延遲特性,有效遏止設備因過熱而降頻的風險,加強網絡的穩定性,能確保 GPU 叢集持續高效順暢運作,並縮短模型訓練時間。

陳家和還稱,該產品於效能與可持續發展 (Sustainability) 之間的絕佳平衡,除了在專屬晶片 (ASIC) 上設計省電,更著眼於提升整體AI方案。透過增加網絡交換容量,以支援更大規模的 AI 叢集運作;同時憑藉超低時延與深度緩衝區設計,確保 GPU 在處理 AI 工作負載或模型訓練時能更快速、更穩定地完成,從而大幅提高 GPU 使用率。這種從整體出發的設計,正能反過來協助企業有效節能,讓整個 GPU 叢集的運作變得更加高效,為企業在分秒必爭的 AI 賽道上奠定堅實的網絡後盾。