昨天分享了GB200關于線纜的一些問題,今天給大家分享下GB200關于PCB相關的問答。GB200中信號的速率比較高,鏈路也比較長,所以采用了比較低損的材料和高端的制造工藝,據悉PCB采用了M8級別的PCB材料以及20層HDI設計。再加上其預計在2025年將達到5.8W個機架,所以總量會爆發式增長。
Q1:GB200PCB板塊的架構有哪些核心更新?
答:GB200 PCB板塊的架構帶來了一些重要的更新,這些更新對于整個PCB行業的價值有著顯著的影響。首先,GB200的結構中PCB的使用量預計將顯著增加。在一個擁有72個GPU的機架配置中,每個機架包含多個基礎組件,其中Compute Tray結構是核心部分,每個Tray包含兩個PCB單元,每個單元裝有兩個GPU和一個CPU。此外,NV Switch Tray作為GPU間信息交換的中介,以及InfiniBand(IB)交換機用于網絡連接,這些都是PCB應用的關鍵領域。
Q2:銅線是否會替代PCB,這兩者之間的價量關系如何?
答:雖然市場上有專家探討銅線可能替代PCB的話題,但我們認為這種看法過于簡化。在GB200的架構中,盡管引入了銅線,但ASIC芯片必須使用PCB。隨著電子產品集成度的提高,PCB的作用不可替代。此外,從經濟角度來看,PCB的價值量預計將顯著提升,尤其是在交換機ASIC的帶寬增加方面。
Q3:市場上關于銅線可能取代PCB的說法有何依據? 答:市場上關于銅線可能取代PCB的說法主要基于銅線在某些應用中的使用。然而,這種看法忽略了PCB在高性能計算、高速數據傳輸等方面的不可替代性。機架式服務器從未普遍采用PCB背板,而且英偉達的GB200架構已經開始使用銅線,但這并不意味著PCB將被徹底取代。隨著電子產品集成度的提高,PCB的重要性將進一步凸顯。
Q4:GB200架構的推廣對PCB廠商有何影響?
答:GB200架構的推廣將對PCB廠商產生積極影響。隨著GB200架構增強了GPU間的連接層,導致交換機ASIC數量增加,從而推動了PCB價值量提升。單個GPU對應的PCB價值量大約為0.3萬元,相比H100的Super Pod提升了150%。這意味著主流PCB廠商在未來值得期待,并將受益于GB200架構的推廣以及相應產品規格的提升。
Q5:在更大規模的集群中,PCB的價值量如何變化?
答:在更大規模的集群中,例如8個機架相連的配置,整體PCB價值量可達三百多萬元,每個GPU對應的PCB價值量約為0.53萬元。這比單個機架的配置提升了近300%,主要得益于L2層的增加及更多級別的IB Switch網絡。這一變化表明,隨著集群規模的擴大,PCB的價值量也隨之增加。
Q6:GB200架構中PCB的價值量提升主要受哪些因素影響?
答:GB200架構中PCB的價值量提升主要受到交換機ASIC帶寬增加的影響。隨著帶寬的提升,對PCB的性能要求也相應提高,從而推動了PCB的價值量上漲。此外,由于GB200架構增強了GPU間的連接層,導致交換機ASIC數量增加,這也是PCB價值量提升的一個重要因素。
Q7:GB200架構中PCB的價值量如何計算? 答:在GB200架構中,我們通過分析每個板上的帶寬來確定相應的PCB規格和價值量。例如,承載GPU和CPU的PCB帶寬大約是900GB/s,需要采用高密度互連(HDI)工藝。而交換機PCB的帶寬約為57.6TB,計算得出,一個機架包含兩個IB Switch。一個機架的主要PCB組成包括36個PCB單元,每個單元帶寬0.9TB,價格約為2萬元人民幣每平方米,價值量72,000元。NV Link Switch的PCB單價約為6萬元每平方米,價值量超過10萬元。每兩臺IB Switch的總價值量為18,000元。
答:關于GB200架構的電源供電問題,目前沒有明顯的跡象表明其電源供電需求與之前相比有顯著變化。電源供電的設計通常會根據硬件的功耗和性能需求進行調整。由于GB200架構在GPU數量和性能上的提升,可能會對電源供電系統提出更高的要求,但具體的供電需求還需根據實際的產品規格和設計來確定。
Q9:GB100和GB200的PCB供應商有哪些? 答:GB100的PCB供應商主要是繼續利用之前H100的供應鏈。GB200的PCB供應商目前還不完全確定,但主流廠商特別是像滬電、欣興這樣的交換機供應商應該會有較大的增量機會。聽說擅長做卡的PCB廠也有可能有機會。 Q10:GB200架構中PCB用量增加的原因是什么?
答:GB200架構中PCB用量增加主要與NV Link和NV Switch相關。雖然GPU的數量由過去的每個單元對應一個GPU提升到現在的每個單元對應兩個GPU,但整體價值量的提升并不像預期的那么大。規格上,PCB達到了六階HDI水平,盡管帶寬有所下降,但規格的提升使得整體價值量確實有所增加。
Q11:GB200NVL72rack和機柜之間的配置關系是怎樣的?
答:在一個機柜中,有18個節點,按照72個GPU滿配,一個NV Link Switch將使用九個ASIC芯片,每個芯片的總帶寬為57.6T。這里主要講述的是下行鏈路的配置,至于上行鏈路,在一個rack中需配置2個IB的Switch,這就是GB200NVL72rack和機柜之間的基本配置關系。
Q12:機柜內部互連是否會減少對外部交換機的使用量,以及整體機架質量如何變化?
答:在討論GB200架構時,我們需要明確網絡架構的關系。機柜內部互連使用的NV Link Switch并不是傳統意義上的交換機,而是一種專門用于GPU之間下行互連的交換板。由于它需要連接72個GPU,因此互連鏈路的數量和帶寬要求都非常高。這就要求使用更高帶寬的ASIC進行連接,相應地,作為載體的PCB也需要提升其質量和性能。另一方面,外部交換機的架構與H100的Super Pod的外部IB網絡架構相同。隨著總帶寬的提升,外部IB網絡的交換機帶寬也相應提升,從而提高了整體的動態性能。因此,整體機架的質量得到了提升,以滿足更高的性能要求。
Q13:GB200架構中PCB價值量如何計算?
答:在GB200架構中,整個機柜的PCB用量可以分為四個主要部分:Compute Node、NV Link Switch、IB leaf Switch和IB spine Switch。這四個部分的合計PCB用量大約為21.6萬人民幣的價值量,其中Compute Node部分大約為7萬人民幣,NV Link Switch部分大約為10萬人民幣,而IB的兩個Switch部分加起來大約為3.6萬人民幣。
如果將8個rack連接在一起,由于L2層的連接和spy網絡帶寬的新增,整體的PCB用量將達到超過300萬元人民幣。按照每個GPU計算,相當于0.553萬元人民幣的PCB用量水平。
Q14:GB200與GH200以及B100與H100的PCB用量有何不同?
答:在比較GB200與GH200,以及B100與H100的PCB用量時,我們需要注意的是,B100與H100之間的比較主要與帶寬提升和網絡接口C×8或C×7的使用有關,因此PCB用量的增加并不會太大。而GB200的PCB用量則顯著增加,這是因為雖然GPU帶寬只增加了兩倍,但連接數量增加了數倍。
Q15:GB200的市場滲透率預期如何?
答:GB200的市場滲透率受到廣泛關注,因為預期其滲透率較高。如果滲透率能達到50%,那么整個AI服務器PCB的價值量有可能會翻倍增長。這表明GB200架構的市場潛力巨大,對PCB行業的影響深遠。
Q16:對GB200的GPU和Rack數量有何預測?
答:目前對GPU方面的預測可能有超過百萬片,因此對應的rack數量應該有幾萬臺。關于GB200的數量及分布預期,目前看來大約有100萬片GB200,200萬片B100,以及一些H系列產品。明年的B100和B200系列的預期是200萬張。
Q17:GB200的機柜數量預估是多少?
答:如果以100多萬片CPU計算,按照每個機柜配置18個GB200,那么能夠出貨的機柜數量將是5.8萬個。這只是一個初步估計,有信號顯示這個數字可能會上調。這表明GB200架構的推廣將為PCB行業帶來大量需求,對行業的發展具有積極影響。
Q18:根據計算,明年的PCB產量預計只有三百多萬張,這個數量是否偏少?
答:盡管這個數字可能看起來較為保守,但我們需要考慮到PCB主要用于推理任務,而推理需求的增長速度可能較快。目前還沒有一個明確的數字來預測具體的數量能增長到多少,但推理用PCB的市場潛力不容忽視。
Q19:如果PCB僅用于訓練,三百多萬張是否已足夠?
答:實際上,如果PCB僅用于訓練任務,三百多萬張的數量確實可能已經足夠。然而,由于部分訓練用PCB也被用于推理任務應用,這可能導致市場對PCB的需求增加,從而成為上調預期的一個因素。隨著AI技術的發展和應用領域的擴大,推理任務應用對PCB的需求也在不斷上升。
Q20:推理用PCB與訓練用PCB的價值有何區別?
答:推理用PCB與訓練用PCB在價值上存在顯著差異。同規格的PCB在價格上可能會有很大的差距。例如,如果以70美元來估算H版PCB的價格,那么L40可能只有十幾到二十美元。從表面上看,推理PCB的價格并不高。但關鍵在于,隨著越來越多的訓練用PCB被用于推理任務,推理PCB的價值正在逐漸上升。這是當前AI硬件市場換代的一個主要因素,也是推動市場對推理用PCB需求增長的關鍵驅動力。
Q21:推理用PCB的市場前景如何?
答:推理用PCB的市場前景非常廣闊。隨著人工智能技術的不斷進步和應用領域的不斷擴大,推理任務應用在各個行業中的作用越來越重要。從自動駕駛到智能家居,從醫療診斷到金融服務,推理PCB在支持這些智能應用中扮演著關鍵角色。因此,推理用PCB的需求預計將隨著AI技術的普及而持續增長。
Q22:GB200PCB版塊的增長動力是什么?
答:GB200PCB版塊的增長動力主要來自于幾個方面。首先是AI技術的快速發展,特別是在深度學習和機器學習領域,對高性能計算硬件的需求不斷增加。其次,隨著AI應用在各個行業的滲透,推理任務應用對PCB的需求也在不斷上升。此外,隨著GB200產品的市場滲透率提高,預計將帶來更多的PCB需求。最后,由于訓練用PCB也被用于推理任務,這將進一步推動GB200PCB版塊的增長。
審核編輯:黃飛
-
pcb
+關注
關注
4318文章
23022瀏覽量
396420 -
asic
+關注
關注
34文章
1195瀏覽量
120346 -
gpu
+關注
關注
28文章
4703瀏覽量
128723 -
交換機
+關注
關注
21文章
2624瀏覽量
99284
原文標題:談一談GB200為什么會推動PCB爆發式增長
文章出處:【微信號:SI_PI_EMC,微信公眾號:信號完整性】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論