電子發(fā)燒友網(wǎng)報道(文/黃晶晶)今年初,微軟推出引入Copilot功能的全新個人電腦,Copilot作為AI語音助手被確定為AI PC不可或缺的按鍵以及功能,它能夠在不需要云數(shù)據(jù)中心的情況下處理本地的人工智能任務(wù)。同時,微軟還提出,這款全新電腦搭配擁有全新神經(jīng)處理單元NPU的芯片,可實現(xiàn)每秒超過40萬億次即40+TOPS的運算。那么也就是說,若要符合微軟給出的AI PC的定義,NPU的算力至少要達到40 TOPS。
這一定義的拋出,突顯了NPU的重要性。半導(dǎo)體大廠們普遍認為CPU+GPU+NPU的組合將是AI PC的算力基座。
《AI PC產(chǎn)業(yè)白皮書》中指出AI PC五大特性,包括提供多模態(tài)自然語言交互、終端內(nèi)嵌個人的大模型、標配本地混合AI算力、連接開放的AI應(yīng)用生態(tài)、設(shè)備級個人數(shù)據(jù)和隱私安全保護。尤其是本地混合AI算力,即CPU+GPU+NPU異構(gòu)混合算力保證了AIPC本地推理的可行性,同時隨著端側(cè)算力的快速提升,AIPC可以承載更大的AI模型,執(zhí)行更加復(fù)雜的任務(wù)。
在分工上,CPU是計算機的運算核心和控制核心,GPU進行圖形處理和大規(guī)模并發(fā)計算,NPU提供高效能和低功耗的神經(jīng)網(wǎng)絡(luò)運算支持,在多種應(yīng)用場景中實用智能計算。三者的組合發(fā)揮各自的優(yōu)勢,協(xié)同工作,高效實現(xiàn)端側(cè)AI的能力。
不過,當前來看NPU別說是多少算力的問題,甚至很多設(shè)備都還沒有NPU。以安卓平臺來看,目前70%的第三方 ML/AI 應(yīng)用運行在CPU上,特別是一些低級別設(shè)備很難承擔NPU的費用,CPU+GPU+NPU的組合或許要從高端設(shè)備開始。
AI PC的演進過程中,《白皮書》指出應(yīng)分為AIReady階段和AIOn階段。在AIReady階段,AIPC主要表現(xiàn)為芯片計算架構(gòu)的升級,具備基本的本地混合AI算力,能夠為AIPC的軟件及服務(wù)創(chuàng)新提供基本保障,開啟體驗創(chuàng)新。
如今,NPU以及高算力NPU的導(dǎo)入已經(jīng)開始。英特爾、AMD、蘋果、高通等廠商紛紛推出了帶有NPU的處理器產(chǎn)品,不少新產(chǎn)品的NPU算力都達到40 TOPS,高算力應(yīng)對復(fù)雜且眾多的本地AI大模型需求,為迎接AI PC的應(yīng)用爆發(fā)做好準備。
英特爾
去年12月,英特爾正式發(fā)布酷睿Ultra處理器。它是首款基于 Intel 4 制程工藝打造的處理器,代表了40年來英特爾架構(gòu)最大的革新。采用了先進的Foveros 3D 封裝技術(shù),在 CPU、GPU 和神經(jīng)網(wǎng)絡(luò)處理單元(NPU)的架構(gòu)中集成了專屬 AI 加速功能,從而成為英特爾歷史上 AI 性能最強、能效最佳的客戶端處理器。英特爾方面還宣布,將與主流 OEM 伙伴推出 230 余款機型,開啟AI PC新紀元。
根據(jù)英特爾的酷睿 Ultra 產(chǎn)品路線圖,2023年為Meteor Lake,2024年將有Lunar Lake、Arrow Lake,2025年為Panther Lake,2026年Future Products還沒有具體架構(gòu)代號。其中Lunar Lake采用臺積電3nm工藝,NPU性能將是上一代的4倍,達到48 TOPS,滿足 Copilot+ 需求。
另外,英特爾將于年內(nèi)發(fā)布Arrow Lake處理器。報道稱,Arrow Lake涵蓋了臺式機和筆記本電腦產(chǎn)品的多個細分平臺,其中“S”用于臺式機并采用LGA 1851插座,“HX”用于發(fā)燒級游戲本,算力方面,Arrow Lake-S和Arrow Lake-HX提供AI算力達37 TOPS,其中Arrow Lake-S/HX的GPU在新架構(gòu)加持下,AI算力從3 TOPS提高到9 TOPS;內(nèi)置的NPU提供13 TOPS的AI算力。
AMD
AMD于2023年5月推出的銳龍7040系列是全球首款內(nèi)置XDNA架構(gòu)NPU的X86處理器,同年12月推出銳龍8040系列移動處理器,提供高達16TOPS的NPU算力和39 TOPS的整體算力,相較上一代帶來60%的AI性能提升。
在今年6月的臺北電腦展上,AMD重磅發(fā)布了Ryzen AI 300 系列處理器,采用Zen 5架構(gòu)、第三代AMD Ryzen AI,內(nèi)置XDNA2 NPU,GPU升級為RDNA 3.5。
作為一款專為AI PC打造的處理器,其NPU算力可達50 TOPS,相較而言上一代Ryzen 8040系列芯片只有16 TOPS。
可以看到,這款處理器的亮點之一就在于NPU算力的大幅提升。AMD表示,XDNA2 NPU的計算能力提供5倍多,多任務(wù)并行能力翻一番,能效提升最多2倍。并且,XDNA2首次引入全新的Block FP16浮點精度,傳統(tǒng)的8-bit INT8數(shù)據(jù)類型性能強但準確性低,16-bit FP16數(shù)據(jù)類型準確性高但性能弱。FP16 NPU可兼顧兩者的性能與準確性,目前大多數(shù)AI應(yīng)用都采用了16-bit精度。另外,AMD已經(jīng)與超過150家AI賦能的ISV合作伙伴達成深度合作,進而為AMD Ryzen AI提供兼容性更好、性能體驗更好的各類型AI應(yīng)用。
蘋果
2023年,蘋果A17 Pro處理器對整塊芯片進行了全方位提升,包括 Apple 有史以來最大規(guī)模重新設(shè)計的圖形處理器。通過微架構(gòu)和設(shè)計上的改進,全新的中央處理器實現(xiàn)了多達 10% 的速度提升,神經(jīng)網(wǎng)絡(luò)引擎的速度也提升多達 2 倍。采用臺積電3nm工藝制程,其NPU擁有16核心,性能達到35 TOPS。
今年5月,蘋果發(fā)布的11英寸和13英寸iPad Pro搭載了M4處理器,該處理器基于臺積電第二代3nm工藝,擁有280億個晶體管,NPU算力從18TOPS提升到38 TOPS。
在前不久的蘋果全球開發(fā)者大會(WWDC)上,蘋果宣布了全新的AI系統(tǒng)Apple Intelligence。要提升系統(tǒng)的AI能力,NPU的升級必不可少。今年9月蘋果全新一代iPhone 16 Pro將配備最新的A18芯片,據(jù)悉臺積電啟動2nm芯片試產(chǎn),蘋果A18性能或提升30%,而在NPU性能上,有消息稱A18有望超越蘋果自家的M4處理器,可能達到45TOPS。
高通
此次微軟首批Copilot+PC,搭載高通驍龍(Snapdragon)X Elite 芯片。高通于2023年推出為AI PC設(shè)計的驍龍 X Elite 處理器,該處理器集成高通定制 Oryon CPU,基于 4nm 工藝打造,采用 12 顆 3.8GHz 大核,全新 Hexagon NPU 最高可提供 45 TOP(每秒萬億次運算)算力,并且可以在設(shè)備上以“驚人的速度”運行超過 13B 參數(shù)的生成式 AI LLM(大型語言模型)。首批搭載驍龍X Elite 芯片的PC制造商包括榮耀、聯(lián)想、小米等。
此外,消息稱,聯(lián)發(fā)科與英偉達聯(lián)手研發(fā)Arm架構(gòu)AI PC處理器,新款芯片將對標蘋果M4,預(yù)計2024年第三季度完成設(shè)計,第四季度進入驗證階段,將采用臺積電3nm工藝制造,并計劃2025年發(fā)布。
小結(jié):
微軟給AI PC劃了一條NPU算力的“紅線”,基于微軟強大的生態(tài)號召力,AI PC處理器廠商都十分重視NPU性能的提升,當然這也有利于后續(xù)AI PC上端側(cè)AI真正的應(yīng)用普及。40+ TOPS NPU也許會成為今后用戶購買AI PC的一個必選項。
-
處理器
+關(guān)注
關(guān)注
68文章
18797瀏覽量
226255 -
AI
+關(guān)注
關(guān)注
87文章
28461瀏覽量
265733 -
NPU
+關(guān)注
關(guān)注
2文章
246瀏覽量
18311 -
算力
+關(guān)注
關(guān)注
1文章
801瀏覽量
14516 -
AI PC
+關(guān)注
關(guān)注
0文章
116瀏覽量
80
發(fā)布評論請先 登錄
相關(guān)推薦
評論