推動5G+AI邊緣側創新夯實智能未來發展基礎
高通技術公司首席商務官Jim Cathey在大會首日全體會議——產業發展論壇上表示:
5G對于一個更加智能的世界至關重要。憑借卓越的性能、可靠性和容量,5G正在向智能手機之外的更多領域擴展,實現萬物互聯,成為數字經濟的關鍵基礎設施。同時,5G還助力AI擴展至更多邊緣側終端,不僅推動了智能的規模化擴展,還能夠使在邊緣側生成的情境相關數據與云端近乎實時地共享。
高通技術公司首席商務官Jim Cathey發表演講
作為終端側AI領導者,高通公司投入AI研發已超過15年,構建了強大的邊緣側AI技術、布局和規?;瘍瀯?。高通技術公司全球副總裁兼高通AI研究負責人侯紀磊博士表示:
憑借一系列基礎研究,以及跨AI應用、模型、硬件與軟件的全棧終端側AI優化,我們的持續創新讓公司始終處于終端側AI解決方案的最前沿。
侯紀磊博士特別指出,高通的AI解決方案旨在提供最佳能效,讓AI無處不在。高通AI引擎作為公司多年全棧AI優化的結晶,能夠以極低功耗提供業界領先的終端側AI性能,賦能當前和未來的用例。此外,可擴展的技術架構讓用戶能夠采用一個高度優化的AI軟件棧,即可在不同終端和模型上進行工作,以強大的靈活性和穩健性應對未來的AI技術發展。
高通技術公司全球副總裁兼高通AI研究負責人侯紀磊博士發表演講 賦能生成式AI規?;瘮U展混合AI是AI的未來
采用混合AI或僅在終端側運行AI,能夠在全球范圍帶來成本、能耗、性能、隱私、安全和個性化優勢。隨著生成式AI的飛速普及和計算需求的日益增長,混合處理的重要性空前突顯。高通認為,要真正推動生成式AI成為主流,并發揮其最大潛能,必須采取混合AI架構。近期,高通公司發布白皮書《混合AI是AI的未來》,詳細闡述了公司的混合AI愿景。
高通技術公司產品管理高級副總裁兼AI負責人Ziad Asghar在演講中表示:
為實現生成式AI的規模化擴展,AI處理的重心正在向邊緣轉移?;旌螦I架構在云端和邊緣終端之間分配并協同處理AI工作負載,能夠實現更強大、更高效且高度優化的AI。我們正在引領混合AI愿景的實現,通過無線連接、高效計算和分布式AI融合云端和終端,釋放生成式AI的無限潛力。
高通技術公司產品管理高級副總裁兼AI負責人
Ziad Asghar發表演講
高通的AI能力已賦能一系列廣泛的產品,包括手機、汽車、XR、PC、物聯網設備等,搭載驍龍和高通平臺的已上市用戶終端數量已達到數十億臺。據Ziad介紹,高通正在將更多生成式AI用例向邊緣側遷移,目前,參數超過10億的AI模型已經能夠在手機上運行,且性能和精度達到與云端相似的水平。不久的將來,擁有100億或更大參數的生成式AI模型將能夠在終端上運行,推動生成式AI的普及。 技術哺育行業生態打造開放元宇宙未來
高通作為5G、AI、XR等創新技術的領導者,致力于以行業領先的軟硬件綜合解決方案,加速元宇宙和XR生態系統的發展。高通技術公司高級副總裁程立新在演講中表示:
5G、AI和XR,是構建元宇宙的三大基礎技術。利用我們在5G和終端側AI領域的強大技術優勢,高通公司正在加速5G、AI和XR技術的融合,構建智能網聯邊緣,推動打造更沉浸、更智能的XR世界。
高通技術公司高級副總裁程立新發表演講 生成式AI能為元宇宙內容建設帶來巨大前景。生成式AI有潛力在未來普及3D內容創作,比如賦能內容創作者使用如文本、語音、圖像或視頻等各種類型的提示,生成3D物體和場景,并最終創造出完整的虛擬世界。此外,內容創作者將能夠利用文本生成文本的大語言模型,生成類人對話,這些進步都將變革用戶在XR設備上創造和體驗沉浸式內容的方式,構建開放、個性化的元宇宙未來。
引領業界AI創新樹立行業技術新標桿
高通以開創性的技術創新,持續引領終端側智能體驗的發展。第二代驍龍8移動平臺的高通AI引擎,榮獲了世界人工智能大會最高獎項——SAIL獎(卓越人工智能引領者獎)。高通AI引擎能夠為終端側AI推理加速提供卓越性能和能效,并支持豐富AI用例創新,提升用戶體驗。高通AI引擎實現軟硬件一體,硬件側采用異構計算架構,其關鍵核心Hexagon處理器擁有一系列創新,如提供專用供電系統,支持微切片推理、INT4精度、transformer網絡加速等。
第二代驍龍8移動平臺的高通AI引擎
榮獲SAIL獎(卓越人工智能引領者獎)
憑借高通AI引擎的全棧AI能力和優化手段,高通已經率先將生成式AI能力帶到了終端側,并在WAIC上進行了技術展示,讓廣大參會者見證了強大終端側AI將如何助力生成式AI在終端側實現無限潛力。其中,全球首個運行在Android手機上的Stable Diffusion終端側演示,能夠在15秒內執行20步推理,完全在手機上處理超過10億參數模型。這是智能手機上最快的推理速度,媲美云端時延,且用戶文本輸入完全不受限制。目前,高通已經將這一用例擴展至驍龍計算平臺賦能的PC產品。此外,高通還帶來了全球最快的手機上的ControlNet終端側演示,該模型擁有15億參數,在這項技術展示中,只用不到12秒即可在移動終端上生成AI圖像,無需訪問任何云端,便能提供高效、有趣、可靠且私密的交互式用戶體驗。
原文標題:高通亮相世界人工智能大會,描繪混合AI賦能的智能未來
文章出處:【微信公眾號:高通中國】歡迎添加關注!文章轉載請注明出處。
-
高通
+關注
關注
76文章
7439瀏覽量
190358
原文標題:高通亮相世界人工智能大會,描繪混合AI賦能的智能未來
文章出處:【微信號:Qualcomm_China,微信公眾號:高通中國】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論