Scale-up網絡是以推理的大顯存并行計算流量和訓練的張量并行(TP)以及專家并行(MoE)流量為主,來滿足在網計算的加速需求。據相關大模型廠商介紹,對Scale-up網絡規模的需求預計在未來2-3年還要擴大2到3倍以上。在MoE模型的驅動下,Scale-up的部署趨勢將超出單個服務器機架的范圍。
面對其對互聯性能的極致追求,目前業內主要采用專門設計的協議比如NVIDIA的NVlink及NVSwitch技術。然而,這些基于私有協議的技術不僅成本高昂,且不對外開放。為了打破這一局面,AI網絡產業鏈在近期共同發起了UALink 加速器互聯協議聯盟,旨在推動AI網絡Scale-up互聯的創新技術發展。
奇異摩爾榮幸宣布加入UALink(Ultra Accelerator Link ) 加速器間互聯協議聯盟,憑借其在互聯領域的豐富積累,為GPU卡間的高效互聯貢獻技術力量,攜手生態開啟AI網絡的新篇章。
關于UALink聯盟
Ultra Accelerator Link (UALink) 是一種高速、縱向擴展的加速器互聯技術,可提升下一代 AI 網絡的性能。UALink 1.0 規范將為 AI Pod 中多達 1024 個加速器的每通道擴展連接實現高達 200Gbps 的擴展連接。該規范于今年向 Contributor 成員開放,并在 2025 年第一季度供一般審查。
UALink主要特點
1通過行業標準協議在加速卡之間實現高效通信
2更靈活地擴大Pod中加速卡的數量
3優化當前和未來計算密集型工作負載所需的性能
4與Scale-out 相關標準兼容如UEC
UALink的開源性質鼓勵了AI網絡產業鏈的協同開發模式,摒棄專有系統不僅催生了創新,還加速了技術的廣泛采納與持續優化。 UALink的核心價值不止于作為NVLink的替代選項,它更在于為各類企業,無論是巨頭,還是中小型企業,如奇異摩爾般的Chiplet&互聯企業可以憑借在互聯領域的專長,為聯盟的互聯技術進步貢獻力量,并在這一開放體系中實現技術成果的最大化。
UALink如何在中國市場落地
作為國際互聯系統開發標準,UALink在落地過程中需要覆蓋多個產業環節,因此成員涵蓋了芯片制造商、交換機提供商、服務器提供商等整個產業鏈的關鍵角色。然而,由于AI大模型產業在國內具備本土特色,因此UALink如何在中國市順利落地,也面臨著挑戰。
為了打造一個原生支持AI場景的Scale-up開放生態系統,阿里云在今年9月倡議并牽頭成立了ALS(ALink System,加速器互連系統)開放生態系統,依托于ODCC(開放數據中心委員會),解決Scale-up互連系統的行業發展規范問題。ALS系統生態也是首個兼容UALink的國內生態標準體系。
奇異摩爾作為ALS系統的核心成員之一通過加入ALS與UALink互聯系統聯盟,有效融合國際標準與國內AI產業鏈生態,進一步推動產品應用的本土化實施與落地。
UEC與UALink并駕齊驅
AI網絡生態的建立正在逐步完善中;UEC超以太聯盟即將在2025年第一季度推出1.0標準版本,這與UALink的首個標準版本發布時間相近。這兩個聯盟雖然各自獨立,但成員之間存在著較高的重疊,這為行業內的技術融合和創新提供了良好的基礎。
這還意味著生態成員們在Scale-out互聯層面可以利用UEC標準成就北向網絡更大規模集群的擴展,在Scale-up互聯層面可以利用UALink來實現南向網絡更高效的GPU加速卡間通信。不謀而合的是,這些生態標準的基礎正是以太網。以太網擁有最成熟的生態無論是國際還是國內。
復用以太網生態,與產業鏈的上下游兼容適配是奇異摩爾正在踐行的。正如特斯拉使用了私有的TTPoE協議 ,在保持與標準以太網基礎設施兼容的同時實現了片內/片間/網間的統一互聯。 AI網絡的終點是三網融合,這一愿景的實現,依賴于行業內每一個參與者的共同努力。隨著技術標準的逐步成熟,AI網絡的新篇章正在緩緩揭開序幕。
關于我們
AI網絡全棧式互聯架構產品及解決方案提供商
奇異摩爾,成立于2021年初,是一家行業領先的AI網絡全棧式互聯產品及解決方案提供商。公司依托于先進的高性能RDMA 和Chiplet技術,創新性地構建了統一互聯架構——Kiwi Fabric,專為超大規模AI計算平臺量身打造,以滿足其對高性能互聯的嚴苛需求。
我們的產品線豐富而全面,涵蓋了面向不同層次互聯需求的關鍵產品,如面向北向Scale out網絡的AI原生智能網卡、面向南向Scale up網絡的GPU片間互聯芯粒、以及面向芯片內算力擴展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產品共同構成了全鏈路互聯解決方案,為AI計算提供了堅實的支撐。
奇異摩爾的核心團隊匯聚了來自全球半導體行業巨頭如NXP、Intel、Broadcom等公司的精英,他們憑借豐富的AI互聯產品研發和管理經驗,致力于推動技術創新和業務發展。團隊擁有超過50個高性能網絡及Chiplet量產項目的經驗,為公司的產品和服務提供了強有力的技術保障。我們的使命是支持一個更具創造力的芯世界,愿景是讓計算變得簡單。奇異摩爾以創新為驅動力,技術探索新場景,生態構建新的半導體格局,為高性能AI計算奠定穩固的基石。
-
網絡
+關注
關注
14文章
7523瀏覽量
88649 -
AI
+關注
關注
87文章
30238瀏覽量
268471 -
加速器卡
+關注
關注
0文章
18瀏覽量
8761 -
奇異摩爾
+關注
關注
0文章
45瀏覽量
3372
原文標題:開啟AI網絡的新篇章 | 奇異摩爾加入UALink(Ultra Accelerator Link ) 加速器間互聯協議聯盟
文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論