人工智能熱潮已改變各行各業,並正在革新全球數據中心的網絡架構。 HPE Networking 憑著出色的技術和方案,榮獲今年「I.T.至專數據中心網絡設備供應商大獎」。
HPE Networking 香港及澳門總監及地區總經理陳家和指出,過去數據中心主要處理南北向 (North-South) 的外部進出流量,但在大規模 AI 運算世界中,網絡則充斥著大量 GPU 與 AI 工作負載之間的東西向 (East-West) 內部流量。
為了因應這巨大轉變,企業必須建構「AI Ready」的網絡架構,在技術上導入主幹和枝葉式架構 (Leaf and Spine) 及 EVPN VXLAN,作靈活控制和擴展。同時配合 RoCE v2 的無數據封包丟失技術,能有效降低 GPU 之間的通訊時延,應付 AI 工作負載的運算需求。
針對 AI 叢集 (AI cluster) 常見的擁塞與時延問題,高規格的硬件設備與深度緩衝區 (Deep Buffer) 設計成為解決關鍵。目前 HPE Networking 最新推出的 QFX5250 交換機提供 800Gbps 至 1.6Tbps 的超高吞吐量。陳家和指出,這設備憑藉低時延與深度緩衝區的優勢,能顯著減少微型突發 (Micro-burst) 的網絡擁塞情況。這確保 GPU 之間通訊的穩定,更為密集的 AI 運算提供具備高度可預測性的效能表現,打破過往數據中心在處理海量數據時的效能樽頸。
隨著 HPE 與 Juniper Networks 合併,兩大巨頭在研發上的協同效應也正加速。陳家和表示,這場具里程碑意義的合併,將 HPE 傳統強項如運算、儲存及混合雲優勢,與 Juniper Networks 的 AI 驅動網絡技術結合,為客戶提供從基礎設施到網絡的端到端整體 AI 方案。
雙方更在研發上互相發揮,陳家和舉例,QFX5250 交換機用上 HPE 的伺服器液體冷卻技術,配合硬件的低時延遲特性,有效遏止設備因過熱而降頻的風險,加強網絡的穩定性,能確保 GPU 叢集持續高效順暢運作,並縮短模型訓練時間。
陳家和還稱,該產品於效能與可持續發展 (Sustainability) 之間的絕佳平衡,除了在專屬晶片 (ASIC) 上設計省電,更著眼於提升整體AI方案。透過增加網絡交換容量,以支援更大規模的 AI 叢集運作;同時憑藉超低時延與深度緩衝區設計,確保 GPU 在處理 AI 工作負載或模型訓練時能更快速、更穩定地完成,從而大幅提高 GPU 使用率。這種從整體出發的設計,正能反過來協助企業有效節能,讓整個 GPU 叢集的運作變得更加高效,為企業在分秒必爭的 AI 賽道上奠定堅實的網絡後盾。