隨著 AI 需求大幅提升,個別資料中心在單一設施內的電力與運算容量已達極限,為了擴展規模,資料中心的規模必須超越單一建築,也就是透過高速傳輸的網路將分散在各處的多個資料中心,整合成一個超大型資料中心、亦或是輝達所稱的AI超級工廠。
輝達表示,Spectrum-XGS是輝達乙太網路平台的突破性進展,透過導入跨域擴展基礎設施打破既有限制。Spectrum-XGS 乙太網路將作為 AI 運算在垂直擴展(scale-up)及水平擴展(scale-out)之外的第三大支柱。
輝達執行長黃仁勳表示,AI 產業革命已經來臨,新產品將協助資料中心跨越城市、國家和各大洲的物理限制,連結成龐大、千兆級規模的 AI 超級工廠。
輝達表示,Spectrum-XGS 乙太網路的特色在於可視資料中心設施間的距離,動態調整網路的演算法,美國AI算力提供者 CoreWeave將率先利用 Spectrum-XGS 乙太網路技術連接其散佈於美國各州的資料中心。
而資料中心用高速乙太網路交換器晶片霸主博通,也早已看好這個領域,日前推出乙太網路交換機晶片Jericho 4。博通認為,在晶片空間有限的情況下,必須針對不同應用有所取捨,博通針對市場需求推出多項交換機晶片,例如Tomahawk是對應最高階、資料中心內部傳輸需求,Jericho則主攻電信級、長距離傳輸的機櫃互聯市場,超大型AI集群容量高達200兆瓦,目前尚無單一數據中心能提供這樣的容量,Jericho 4就是透過乙太網路由器,連結多個分散四處的資料中心、彼此距離最遠可達100公里,使其運作上看起來像一個超大型資料中心,來因應市場對超大型AI集群的需求。
輝達、博通看好同一市場需求,博通長期佔有資料中心內機櫃之間傳輸8、9成晶片市場,輝達則是用GPU銷售綁機櫃級乙太網路晶片與Infiniband晶片銷售,面對全新的、跨區域的資料中心高速互聯市場,鹿死誰手現在為之過早,不過,博通已經為一線CSP如Google、AWS、Meta等,以及OpenAI提供AI ASIC的設計服務,AI ASIC或許未來將分食部分客戶對輝達GPU的需求,輝達與博通全面開打,在所難免。