電子發(fā)燒友網(wǎng)報道（文/李彎彎）生成式AI是一種通過學習大規(guī)模數(shù)據(jù)集生成新的原創(chuàng)內(nèi)容的新型AI。Bloomberg Intelligence最新報告預測，未來10年內(nèi)，生成式AI市場規(guī)模將從2022年的400億美元，增長至2032年的1.3萬億美元，年復合增速達到42%。

生成式AI向終端快速演進

當前大部分生成式AI的開發(fā)工作都集中在云端，然而生成式AI正朝著直接在終端上運行的方向快速演進。高通公司總裁兼CEO安蒙前不久談到，生成式AI將變革終端側(cè)的用戶體驗，具備生成式AI能力的PC能夠更好地理解用戶需求，生成式AI還將帶來全新的人車交互方式，支持用戶與汽車直接進行對話。他認為，生成式AI將為各行各業(yè)帶來全新機遇。

近段時間，生成式AI在手機、PC等終端設備上已經(jīng)有不少用例。最近推出的新手機，就有不少生成式AI的應用，比如，OPPO Find X7Ultra的AIGC消除功能，即可極大幅度的降低拍照廢片率，一些路人突然出現(xiàn)的照片，就可以通過該功能成功拯救。三星Galaxy S24系列的通話實時語音翻譯和同傳功能，支持了13種語言之間的無縫翻譯，出國旅行也可輕松交流。

在前不久的MWC展會期間，高通也在現(xiàn)場展示了大量生成式AI的應用案例。相比此前發(fā)布的一些手機的AI功能，高通在MWC現(xiàn)場所展示的AI功能更為神奇。如，在圖像生成上，完全不需要一長串的文字標簽，只要給出一個比較準確的描述，Stable Diffusion即可快速生成圖片，與描述相差無幾。比如輸入“一只可愛的卷毛貓”，小龍手機僅耗時不到7秒，就生成了一張卷毛貓在室內(nèi)的照片，效果十分真實。

另外，圖片生成還能根據(jù)個人或藝術(shù)偏好，加入自定義元素來展現(xiàn)風格效果。比如在加入“水晶”關鍵詞，并設定好風格權(quán)重后，模型就會添加水晶元素，最終生成的圖片就很有賽博風格了。這種使用方式很具想象力，它可以用來制作表情包，甚至在創(chuàng)作平面、視頻內(nèi)容缺素材時，也能運用AI快速生成符合要求的素材。

異構(gòu)計算對端側(cè)生成式AI的重要性

而這些生成式AI功能在終端設備上的應用離不開芯片的支持。高通認為，對于端側(cè)生成式AI來說，異構(gòu)計算是必要條件。高通在此次MWC 展示的Stable Diffusion快速生成圖片，完全依靠端側(cè)算力，它需要NPU進行推理，需要GPU進行圖像渲染，也正是在異構(gòu)運算的幫助下，才能快速里完成圖片生成，并且能夠保持低功耗，保持手機終端的高電池續(xù)航。

近日，高通在其發(fā)布的《通過NPU和異構(gòu)計算開啟終端側(cè)生成式AI》報告中，深入闡述了NPU與異構(gòu)計算，對端側(cè)生成式AI使用的重要性。

高通公司提出，隨著生成式AI用例需求在有著多樣化要求和計算需求的垂直領域不斷增加，需要專為AI定制設計的全新計算架構(gòu)。這首先需要一個面向生成式AI全新設計的神經(jīng)網(wǎng)絡處理器(NPU)，同時要利用異構(gòu)處理器組合，比如中央處理器(CPU)和圖形處理器(GPU)。通過結(jié)合NPU使用合適的處理器，異構(gòu)計算能夠?qū)崿F(xiàn)最佳應用性能、能效和電池續(xù)航，賦能全新增強的生成式AI體驗。

NPU專為實現(xiàn)以低功耗加速AI推理而全新打造，其架構(gòu)隨著新AI算法、模型和用例的發(fā)展不斷演進。AI運算上的主要負載是由標量、向量和張量的數(shù)學運算，雖說CPU也能對此進行處理，不過處理速度和功耗方面都不理想。NPU正是針對AI運算所打造的新處理單元，高通在2015年推出的第一代AI引擎，在Hexagon NPU集成了標量和向量運算核心，之后又加入了張量運算核心，從而極大加快了AI處理速度，并使AI運算處理的功耗大幅度降低。

寫在最后

如今，生成式AI已經(jīng)在終端側(cè)展示出它的價值，隨著生成式AI在終端側(cè)運行的加速，這一趨勢也將推動終端的進一步創(chuàng)新，有望為手機、PC等消費電子市場帶來新一輪生機。同時，生成式AI在終端側(cè)的運行需要極大的算力，這也是目前業(yè)界需要解決的重大問題。