電子發燒友網報道(文/吳子鵬)近日,裕太微董秘和投資者在投資者關系平臺上的對話引起了關注。其中,有投資者在提出問題:“ChatGPT對算力需求幾何式增長,博通預計以太網今年需求有多倍增長,公司如何看待?”對于這個問題,裕太微董秘并沒有正面回答,不過以太網芯片在AI新階段的重要作用還是得到了大家的認可。
博通CEO陳福陽此前表示:“用于人工智能應用的以太網設備銷售額可能從去年的2億美元上升到今年的超過8億美元,因為大型云計算公司在日益采用ChatGPT等文本生成工具的情況下需要這些設備。”并且,他在該公司業績說明會上還指出,已經遇到云計算客戶急于向該公司購買產品的情況。
在大家都關注算力芯片的情況下,作為AI模型架構中的重要一環,以以太網交換芯片為代表的網絡傳輸芯片在悶聲發大財。
AI大模型帶來巨大的網絡需求
當前,在討論ChatGPT等大模型時,更多是談論算力芯片,當然基本就是英偉達的通用算力GPU。不過,大模型真的要落地到應用端,那么就需要把訓練完的模型部署到數據中心里面或者算力中心里面,并連接至網絡給用戶使用。當然,并不是說AI大模型訓練不需要網絡設施,實際上其也需要網絡基座,用以連接各個GPU算力集群。
根據此前的報道,面向AI大模型訓練需求,騰訊推出了業界領先的超算網絡架構——星脈。這是一種追求極致網絡性能的網絡架構,構建了1.6T ETH RDMA網絡,實現了AI大模型通信性能的10倍提升,GPU利用率40%提升,通信時延降低40%,單集群規模達到2K(最大規模32K),基于全自研網絡硬件平臺網絡建設成本降低30%,模型訓練成本節省30%~60%。
中金公司在相關研報中指出,AI大模型訓練采用的分布式算力是以“多機多卡”形式部署的,多GPU并行計算使得服務器節點增加,涉及到海量數據在GPU之間、GPU與CPU等單元間的傳輸,因此帶來了巨大的網絡通信挑戰。
根據SuperPOD的公開信息,一個標準的SuperPOD由140臺DGX A100 GPU服務器、HDR InfiniBand 200G網卡和170臺NVIDIA Quantum QM8790交換機構建而成,其中交換機速率為200G,每個端口數為40個。
因此,AI大模型無論是訓練還是部署也會帶來巨大的光模塊需求,在SuperPOD中,服務器和光模塊的用量比大概會是1:11.4。并且,從SuperPOD的部署也能夠看出,后續大算力中心和頂級數據中心的網絡規格會是100G以上的端口速率,當前200G是主流方案。從2023年開始預計400G將逐漸成為主流,800G交換機可能會陸續得到商用機會。
在市場規模上,MRFR(Market Research Future)報告指出,到2030年全球以太網交換機市場將達到68億美元,2022年-2030年期間的年復合增長率為6.30%。從器件角度來看,兩種器件的重要性顯著提升,一個是更大吞吐量的網絡芯片,一個是更高速率的光模塊。
首先看以太網交換芯片——指在以太網交換機中用于交換處理大量數據及報文轉發的專用芯片,相當于交換機處理網絡傳輸的ASIC。由于AI大模型在訓練和部署時對交換機需求提升,因此交換芯片的用量也將增加,這也是博通預計業績倍增的原因所在。
然后看光模塊——被認為是AI算力設施中核心的網絡設備。目前,以太網交換機主要采用帶光模塊的光纖連接網絡,其中每根光纖會用到兩個光模塊,而一臺交換機上會有數十個網絡接口,因此需求量是非常驚人的。
國產廠商的競爭力
借助ChatGPT帶動的AI大模型爆發,博通在以太網交換芯片方面的營收將翻倍,這主要歸功于該公司在這一領域持續的投入和技術積累,該公司一直以來都在關注數據中心和算力中心的網絡傳輸。當然,大家肯定也清楚,網絡通信芯片是博通的強勢項目。
在ChatGPT爆發之前,博通就在meta的數據中心提供了極具競爭力的以太網交換芯片——Tomahawk4,產品陣營包括Tomahawk4-50G、Tomahawk4-100G 和 Tomahawk4-12.8T,能夠幫助交換機適配200G、400G和800G光纖。
根據共研產業咨詢的研報,在中國商用以太網交換市場,博通的市占比高達61.7%,排名市場首位;美滿電子和瑞昱則分別以20%和16.1%排名二三位;其他廠商的合計份額不足3%。因此,在以太網交換芯片方面,目前國產廠商的市占比還較低。
在國產以太網交換芯片方面,華為和中興等企業走自研的路線。在商用市場,盛科和裕太微電子是為數不多的可選項,其中盛科在國內的市占比大概在1.6%。
盛科于2019年推出以太網交換芯片TsingMa系列,具備440Gbps 交換容量,可支持100G網絡端口;2021 年又推出了以太網交換芯片TsingMa.MX 系列,達到2.4Tbps 交換容量,可支持400G網絡端口。
裕太微目前產品包括以太網車載芯片、以太網交換芯片、以太網網卡芯片等,不過該公司距離入局核心市場還有一段距離。根據該公司此前在投資者平臺透露的信息,目前10G速率尚處于技術預研階段。
和以太網交換芯片不同,國產廠商在光模塊方面具有很強的競爭力。其中,中際旭創是全球光模塊的龍頭企業,2021年市占比為全球第二,份額為10%,該公司在400G和200G產品份額領先,在800G方面有很強的技術優勢。meta、谷歌和亞馬遜等公司都是中際旭創的客戶。
此外,在光模塊方面,國產廠商還有天孚通信、新易盛、源杰科技、華工科技、聯特科技、光迅科技、兆龍互連、仕佳光子等公司。目前,國產光模塊公司合計市占比接近30%,有很強的競爭力。
后記
對于AI大模型而言,算力的重要性肯定是第一位的。不過,在算力背后并非只是計算芯片在做貢獻,網絡傳輸也非常重要。隨著超算中心GPU集群規模逐漸擴大,高效傳輸的重要性也會逐漸提升,在以太網交換芯片和光模塊等方面帶來巨大的需求。目前,以太網交換芯片還是***的短板,和博通存在明顯的技術代差。不過,從產業應用來看,并不構成卡脖子,但在800G上我們需要盡快突破。
-
以太網芯片
+關注
關注
0文章
14瀏覽量
3351 -
ChatGPT
+關注
關注
29文章
1548瀏覽量
7487
發布評論請先 登錄
相關推薦
評論