GPT-4 是世界首個最接近AGI的先進AI系統,展現出強大的“涌現能力”。GPT的成功,得益于其參數規模擴大, RLHF、Transformer、Prompt、插件、系統工程等方面的偉大創新。我們預計, ChatGPT將對科技產業產生深遠的影響,類似于操作系統,ChatGPT將接入現有的全部軟硬件系統。GPT-4的誕生將加速AGI時代的到來,開啟科技“十年新周期”。
AI算力:科技企業大模型競賽的核心“裝備”,AIGC應用的關鍵基建 Transfomer架構大模型訓練對算力的消耗呈指數級增長。2023年1月,ChatGPT計劃再向微軟融資100億美金,該融資將是新一代大模型算力基建的主要資金來源。ChatGPT激發“鯰魚效應”,全球科技巨頭將AI戰略提升到空前高度,算力作為新一輪科技競賽的核心“裝備”,迎來需求的脈沖式增長。未來,ChatGPT應用的全面落地還將釋放更為廣闊的算力需求。 計算是AI算力的核心引擎,存儲、網絡、軟件是AI算力的主要發展方向 1)計算:GPU是ChatGPT訓練和推理的核心支柱,其更新速度遠超過“摩爾定律” ,受益于AI和高性能市場需求增長,GPU行業景氣度顯著提升。AI服務器作為GPU的重要載體,預計其市場規模、滲透率將隨著GPU放量迎來同步高增。 2)網絡:已成為限制AI算力提升的主要瓶頸,英偉達推出InfiniBand架構下的NVLink、NVSwtich等方案,將GPU之間的通信能力上升到新高度。而800G、1.6T高端光模塊作為AI訓練的上游核心器件,將受益于大模型訓練需求的增長。
3)存儲:“內存墻”是制約算力提升的重要因素。NAND、DRAM等核心存儲器在制程方面臨近極限,不斷探索“3D”等多維解決方案。HBM基于其高寬帶特性,成為了高性能GPU的核心組件,市場前景廣闊。
-
AI
+關注
關注
87文章
30239瀏覽量
268474 -
算力
+關注
關注
1文章
936瀏覽量
14750 -
大模型
+關注
關注
2文章
2339瀏覽量
2499
原文標題:AI算力研究框架(2023)
文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論