過去一年來,消費電子領(lǐng)域最火爆的關(guān)鍵詞,就是端側(cè)AI。
大模型,具有強(qiáng)大的理解、生成能力;終端設(shè)備,是人與AI的首選交互入口。二者碰撞之下,讓端側(cè)成為大模型落地的最佳途徑,甚至沒有之一。越來越多的手機(jī)、PC、汽車等消費電子終端廠商,將AI技術(shù)應(yīng)用到自己的產(chǎn)品和服務(wù)中,而端側(cè)AI的繁榮景象離不開一個核心支撐點——計算平臺(芯片)。
端側(cè)算力,從芯而來。所以高性能芯片,是端側(cè)AI持續(xù)繁榮的源頭力量,也是高通希望借助技術(shù)創(chuàng)新、生態(tài)合作所推動的方向。
前不久恰逢驍龍峰會舉辦,我們看到高通公司繼續(xù)強(qiáng)化終端側(cè)AI產(chǎn)品布局和對國內(nèi)大模型的支持。不僅宣布了與智譜、騰訊混元等大模型廠商的合作,共同推動端側(cè) AI 模型部署和落地。此外,還推出了面向AI手機(jī)的驍龍 8 至尊版移動平臺和面向智能汽車的驍龍至尊版汽車平臺。
高通公司總裁兼CEO安蒙表示,AI,尤其是生成式AI,是移動計算領(lǐng)域最大的變革之一;高通關(guān)注生成式AI,尤其關(guān)注AI如何改變計算體驗,邊緣側(cè)將如何發(fā)展,及其如何帶來顛覆性的創(chuàng)新周期,致力于將AI為先的體驗帶入每一個計算空間。
端側(cè)AI的時代風(fēng)口,源于高通為代表的移動計算,與AI深深地?fù)肀АN覀儾环辆蛷母咄ù蛟霢I為先的體驗這一方向入手,去尋找端側(cè)AI向前一步的源頭力量。
2024年伊始,PC、手機(jī)、汽車等消費電子品類都開始積極與大模型相結(jié)合,打造全新的AI XX硬件,端側(cè)AI由此進(jìn)入集中爆發(fā)階段。
可以說,大模型打開了一個消費電子領(lǐng)域的全新風(fēng)口,而深入風(fēng)眼中心,我們會看到一支推動端側(cè)AI醞釀并成熟的關(guān)鍵力量——移動計算。
端側(cè)AI之于云側(cè)AI的不可替代性,是大模型在本地進(jìn)行計算,避免數(shù)據(jù)上云,解決用戶數(shù)據(jù)和隱私安全的顧慮;實時性更強(qiáng),游戲、攝影、AIGC等應(yīng)用在端側(cè)處理的時延更低、反饋更快、體驗更好。
進(jìn)入2024,OpenAI、智譜、騰訊混元等第一梯隊的模型廠商都認(rèn)識到了大模型落地端側(cè)的價值與桎梏,紛紛推出更小規(guī)模、更高性能的模型版本。雖然大模型在積極小型化,但受到端側(cè)計算能力、內(nèi)存空間等限制,模型的減配、壓縮也會折損標(biāo)準(zhǔn)通用基礎(chǔ)大模型的性能表現(xiàn)。
大模型的端側(cè)部署,十分依賴于端側(cè)計算平臺提供強(qiáng)大性能,支撐超大規(guī)模的數(shù)據(jù)運算量,并在性能與功耗之間實現(xiàn)平衡。
讓大模型更好地適配端側(cè),成了移動計算領(lǐng)域的首要任務(wù),高通正在積極地解決中。
在前不久的驍龍峰會上,高通宣布和智譜、騰訊混元合作,共同推動端側(cè) AI 模型部署和落地。我們能從高通的全新動作中,看到移動計算+大模型的三個變化:
變化一:更豐富的端側(cè)AI能力。驍龍8至尊版的NPU性能比上一代提升了45%,強(qiáng)大的性能可以同時運行多個AI工作負(fù)載,這意味著更多基于大模型的AI應(yīng)用能夠在端側(cè)部署。
變化二:更優(yōu)質(zhì)的端側(cè)智慧體驗。高通為驍龍8至尊版配備目前最高速的LPDDR5x內(nèi)存,解決了內(nèi)存顧慮。目前,騰訊混元正通過和高通合作,推動7B和3B的混元大模型在終端部署。
變化三:更健壯的端側(cè)AI生態(tài)。AI開發(fā)者是端側(cè)AI持續(xù)繁榮不可或缺的角色,高通為開發(fā)者準(zhǔn)備了基于自身硬件的高效開發(fā)工具,包括高通AI軟件棧(AI Stack)和AI Hub,與騰訊混元和智譜AI達(dá)成合作,幫助模型廠商在高通硬件上更好地釋放平臺算力,支持AI開發(fā)者輕松地將AI模型集成到應(yīng)用程序中。
根據(jù)驍龍峰會高通公布的數(shù)據(jù),充分利用驍龍8至尊版的強(qiáng)大終端側(cè)AI性能和高通AI軟件棧為模型帶來的性能優(yōu)化,智譜GLM-4V端側(cè)視覺大模型能夠以超過70 tokens/秒的速度在終端側(cè)高速運行。大模型的端側(cè)性能表現(xiàn)優(yōu)化,不僅會降低開發(fā)者的使用成本,提升開發(fā)者的產(chǎn)品效果,也有助于基礎(chǔ)通用大模型的商業(yè)化。
大模型,是端側(cè)AI這一時代風(fēng)口的起點;移動計算,則從更多應(yīng)用、更優(yōu)體驗、更強(qiáng)生態(tài)等方面,為大模型在端側(cè)提供動力保障。
高通對大模型的有力支撐,從源頭支持端側(cè)AI的產(chǎn)業(yè)繁榮,正是推動AI為先體驗的體現(xiàn)之一。
大模型要在終端設(shè)備上被用戶用起來,才能從一種技術(shù)趨勢,轉(zhuǎn)變?yōu)槎藗?cè)AI的產(chǎn)業(yè)繁榮與商業(yè)價值。AI大模型入端,硬件性能是基礎(chǔ)。
我們采訪過一位AI手機(jī)品牌的負(fù)責(zé)人就表示:AI在手機(jī)行業(yè)剛剛開始,未來的一年,AI體驗會超出你的想象,而端側(cè)模型對性能要求很高,所以性能永遠(yuǎn)不會過剩。
性能從哪里來?答案就是計算平臺。針對目前端側(cè)AI集中的兩大品類:一個是個人移動終端,比如AI手機(jī)、AI PC;另一個是智能網(wǎng)聯(lián)汽車,智能座艙、輔助駕駛、自動駕駛等AI應(yīng)用都在加速上車。高通在前不久的驍龍峰會上帶來了兩大平臺的最新技術(shù)和產(chǎn)品。
移動平臺方面:
驍龍8至尊版芯片,憑借技術(shù)方面的性能突破和創(chuàng)新能力,帶來了AI手機(jī)智能化的重大飛躍。
驍龍8至尊版在終端側(cè)生成式AI、多模態(tài)處理和影像處理等方面的突破,可以為AI手機(jī)的大量AI用例提供支持。比如AI-ISP技術(shù)的革命性突破,與NPU緊密結(jié)合,使得高分辨率影像數(shù)據(jù)的實時處理成為可能,手機(jī)廠商可以在攝影功能中引入更多AI應(yīng)用,如自動場景識別、實時美顏和自動對焦等,這是當(dāng)下年輕消費群體格外看重的產(chǎn)品力之一。
此外,驍龍平臺還積極支持PC領(lǐng)域的AI應(yīng)用。
在剛剛舉辦的2024年世界互聯(lián)網(wǎng)大會上,高通憑借其專為Windows 11 AI+ PC設(shè)計的驍龍X Elite平臺榮獲“世界互聯(lián)網(wǎng)大會領(lǐng)先科技獎”。驍龍X Elite的核心優(yōu)勢之一是采用了定制化的Oryon CPU,具備極致快速的響應(yīng)速度,可以為AI PC提供強(qiáng)勁的性能表現(xiàn)。比如榮耀最新推出的AI PC,就在驍龍X Elite的算力支持下,實現(xiàn)了AI紀(jì)要、AI雙向降噪等AI功能,極大地提升了用戶的會議和溝通效率。目前,驍龍X系列已支持58款已發(fā)布或正在開發(fā)中的PC產(chǎn)品,有力支撐了AI PC這一新品類的成長。
汽車平臺方面:
汽車智能化成為大勢所趨,其中智能座艙、智能駕駛,成為車企的核心賽點。為智能汽車提供底層源動力,高通分別推出了全新的驍龍座艙至尊版平臺和Snapdragon Ride至尊版平臺。
其中,驍龍座艙至尊版平臺也采用了專為汽車打造的高通自研Oryon CPU,性能大幅提升,可以助力車企實現(xiàn)大模型和AIGC等能力與座艙相結(jié)合,打造AI語音助手、AIGC應(yīng)用、復(fù)雜情境感知、自然語言交互等新體驗。
Snapdragon Ride至尊版平臺也基于高通最先進(jìn)的NPU及Oryon CPU,將更好的智能駕駛帶到汽車上,實現(xiàn)了高精度定位、環(huán)境感知、決策規(guī)劃以及車輛控制等一系列智能駕駛功能。
此外值得一提的是,增強(qiáng)AI手機(jī)、AI PC、智能汽車的產(chǎn)品力,更強(qiáng)大的移動計算硬件只是必要條件。除此之外,廠商和開發(fā)者還需要一系列開發(fā)工作來釋放硬件性能、優(yōu)化端側(cè)AI表現(xiàn)。
目前,手機(jī)、PC、汽車等采用的驍龍硬件平臺,均已集成高通自研Oryon CPU,加之高通AI軟件棧的賦能,有望實現(xiàn)終端側(cè)AI應(yīng)用在各平臺高效開發(fā)。
硬件(移動平臺、PC平臺和汽車平臺)與軟件(AI Stack、AI Hub)相協(xié)同,高通正在拆除端側(cè)AI的性能桎梏,帶動手機(jī)、汽車等各類消費電子產(chǎn)品加速進(jìn)化,抓住大模型的技術(shù)紅利。
總結(jié)一下,大模型是這一輪端側(cè)AI浪潮的起點,計算硬件是AI終端這一新概念得以落地的性能源泉。支撐大模型和AI終端的持續(xù)發(fā)展,高通也在源頭為端側(cè)AI繁榮貢獻(xiàn)了力量。
之所以要在今天找尋端側(cè)AI發(fā)展的源頭力量,是因為這與國內(nèi)消費電子廠商抓緊時代機(jī)遇和技術(shù)趨勢的需求一致,與源頭緊密合作、齊頭并進(jìn),有利于獲取向未來生長的動能。
目前來看,高通就是與國內(nèi)廠商合作緊密的重要AI力量之一。
一方面,高通和驍龍平臺是國內(nèi)安卓手機(jī)廠商全球化、高端化的助力。國內(nèi)頭部品牌正在高端市場與蘋果展開正面競爭。高通和驍龍與國內(nèi)廠商的緊密合作,成為國內(nèi)智能手機(jī)品牌在全球的競爭力保障,可以讓領(lǐng)先的AI應(yīng)用、AI手機(jī)、AI PC硬件,為全球樹立標(biāo)桿。目前,首批搭載驍龍8至尊版的旗艦手機(jī),如小米、榮耀、iQOO等,已經(jīng)在性價比、影像能力、游戲性能等方面,建立了鮮明的市場認(rèn)知度。
此外,新能源汽車增長也有望更進(jìn)一步。
目前,國內(nèi)新能源汽車已經(jīng)在全球市場建立了較強(qiáng)的競爭力,抓住智能化機(jī)遇,獲得更大的發(fā)展,可以進(jìn)一步夯實優(yōu)勢地位。驍龍汽車平臺就相當(dāng)于基石,支撐基于大模型的智能駕駛、智能座艙上車,讓新能源汽車保持競爭優(yōu)勢,在全球市場走得更穩(wěn)更遠(yuǎn)。
對于端側(cè)AI來說,大模型就是新一代的操作系統(tǒng),而用好這一新型操作系統(tǒng),需要生態(tài)、工具、資源的充分支持。通過驍龍的軟硬件生態(tài)體系,高通可以為端側(cè)AI的發(fā)展提供生態(tài)助力,幫助更多開發(fā)者用好大模型技術(shù),促進(jìn)AI產(chǎn)品與應(yīng)用程序的整體繁榮。
總結(jié)一下,終端消費電子的市場廣闊,智能化升級才剛剛開始。AI將席卷我們熟悉的各個終端品類,站在時代風(fēng)口,高通和驍龍作為源頭動力的身影,也漸漸明晰起來。
高通和驍龍與AI的緊密擁抱,帶來的是移動計算與端側(cè)AI的長相廝守。狂奔一年的端側(cè)AI故事,會繼續(xù)講述下去。
審核編輯 黃宇
-
芯片
+關(guān)注
關(guān)注
453文章
50387瀏覽量
421782 -
AI
+關(guān)注
關(guān)注
87文章
30106瀏覽量
268398 -
智能計算
+關(guān)注
關(guān)注
0文章
176瀏覽量
16454
發(fā)布評論請先 登錄
相關(guān)推薦
評論