11月16日消息,美國時間周三,微軟發布了首款自研人工智能(AI)芯片,可用于訓練大語言模型,擺脫對英偉達昂貴芯片的依賴。微軟還為云基礎設施構建了基于Arm架構的CPU。這兩款自研芯片旨在為Azure數據中心提供動力,并幫助該公司及其企業客戶準備迎接AI時代的到來。
微軟的Azure Maia AI芯片和Arm架構Azure Cobalt CPU將于2024年上市。今年,英偉達的H100 GPU需求激增,這些處理器被廣泛用于訓練和運行生成圖像工具和大語言模型。這些GPU的需求非常高,甚至在eBay上的售價超過了4萬美元。
微軟Azure硬件系統和基礎設施主管拉尼·博卡(Rani Borkar)在接受采訪時解釋說:“微軟在芯片開發方面有著悠久的歷史。”早在20多年前,微軟就與人合作開發了Xbox的芯片,甚至還合作設計了Surface設備的芯片。博卡表示:“這些努力都是建立在這些經驗基礎之上的。2017年,我們開始構建云硬件堆棧,并開啟了這段旅程,使我們走上了構建新自研芯片的軌道。”
新的Azure Maia AI芯片和Azure Cobalt CPU都是由微軟內部構建的,并對其整個云服務器堆棧進行了深度檢修,以優化性能、功耗和成本。博卡表示:“我們正在重新考慮人工智能時代的云基礎設施,并真正優化該基礎設施的每一層。”
Azure Cobalt CPU以元素“鈷”(鈷藍是重要的藍色顏料)命名,是一款128核芯片,基于Arm的Neoverse CSS設計,并為微軟定制。它旨在為Azure上的通用云服務提供支持。博卡解釋稱:“我們花了很多心思,不僅要讓它具有高性能,還要注意到電源管理。為此我們做了許多有意識的設計選擇,包括控制每個內核和每臺虛擬機上性能和功耗的能力。”
微軟目前正在測試Cobalt CPU的工作負載,如Teams和SQL服務器,并計劃明年為客戶提供各種工作負載的虛擬機。雖然博卡沒有直接將其與亞馬遜在AWS上提供的Graviton 3服務器進行比較,但與微軟目前用于Azure的基于Arm的服務器相比,應該會有一些明顯的性能提升。博卡表示:“我們的初步測試表明,我們的性能比目前使用商用Arm服務器的數據中心提高了40%。” 微軟還沒有分享完整的系統規格或基準。
-
微軟
+關注
關注
4文章
6516瀏覽量
103616 -
gpu
+關注
關注
27文章
4593瀏覽量
128171 -
AI芯片
+關注
關注
17文章
1828瀏覽量
34669
原文標題:微軟發布自研AI芯片!
文章出處:【微信號:CSF211ic,微信公眾號:中國半導體論壇】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論