精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

解密PC的AI進化:AI大模型如何“壓”進PC?

知識酷Pro ? 來源:虎嗅APP ? 2024-01-16 15:40 ? 次閱讀

當地時間2024年1月9日,2024年國際消費電子展(CES 2024)在美國拉斯維加斯舉辦。AI for All成為CES大會的關鍵議題之一。在眾多展品當中,被視作個人大模型普惠第一終端的AI PC吸引眾多目光。全球最大的PC廠商聯想集團更是推出了包括Yoga Pro 9i,ThinkBook Plus Gen 5 Hybrid、全球首款商務AI PC ThinkPad X1 Carbon AI、ThinkCentre neo Ultra在內的一眾AI PC產品。那么這些初次登場的AI PC產品身上到底有什么黑科技呢?虎嗅與您一起走進2024CES,為您揭開AI PC神秘的面紗。

奔馳、寶馬、大眾紛紛把大語言模型接入車機系統,讓人能跟汽車自然對話。

三星給冰箱裝了個AI識別系統,可以識別食物品種和新鮮度。

LG推出了會問候早安、歡迎回家的家庭AI機器人。

在2024年的CES展上, AI熱度仍在持續,各家廠商都在喊AI for All,All in AI之類的口號。

然而對于普通的消費電子用戶來說,更關注的似乎還是停留在手邊的設備,比如作為我們生產力工具的電腦

AI PC是2024年CES展中最熱的詞之一,在數據中心業務上賺的盆滿缽滿的英偉達,也在本次展會上推出了多款聚焦個人、商用電腦的AI硬件產品和應用。包括RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super三款GPU,將大語言模型(LLM)的處理速度提升了5倍,將AI視頻生成速度提高了150%。

英偉達產品管理的高級總監Justin Walker在新聞發布會上強調:“我們已經銷售了超過1億塊RTX GPU,這為運行AI應用的個人電腦提供了堅實的硬件基礎。”

在PC終端方面,微軟在CES大會之前,就宣布將在新款Windows 11電腦上配備Copilot按鈕,這是一個專門用于調用現已融入其操作系統人工智能聊天機器人的功能。配備Copilot按鈕的首批設備預計將在本月完成上市。值得注意的是,Windows PC鍵盤布局上次的重大變革還是在30年前。

不過,在AI PC方面走的最靠前的當屬聯想。從2023年10月的全球TechWorld大會宣布了全線AI PC規劃后,僅幾個月時間,聯想就帶著多款AI Ready階段的AI PC產品亮相CES展。包括賦能創作過程的Yoga Pro 9i,全球第一臺可無縫切換筆記本電腦和平板電腦兩種模式的ThinkBook Plus Gen 5 Hybrid、全球首款商務AI PC ThinkPad X1 Carbon AI、新一代超小型ThinkCentre neo Ultra等。

無論是AI技術發展,還是PC市場趨勢,都預示著AI將會成為2024年的PC行業新的增長引擎。AI PC則成為了傳統PC廠商的新增長機會,甚至有可能打破依靠供應鏈和渠道驅動的業務模式,創造出全新的PC市場趨勢和發展模式。

技術大揭秘:把AI裝進PC

大模型的通用性、泛化能力都是來自于模型的參數量,從AI大模型熱潮爆發至今,模型的參數量不斷擴大,對算力的需求也在直線上漲。由此AI需要云端算力,幾乎成了業界共識,很多人認為脫離了云服務器的AI PC很難把模型的能力發揮好。

然而,對于個人和商業用戶來說,純粹的云端AI也并不是萬能的。隨著AI技術的發展和應用場景的多樣化,依賴云端AI處理大量數據、提供服務的模式正逐步顯現出局限性。

目前的AI云服務主要面臨三個比較明顯的挑戰:成本、安全和響應速度。

而結合云端AI和AI PC類產品的優勢,構建的云端+本地的AI模式,很可能會成為未來AI的發展趨勢。通過這種模式,大型AI模型可以在云端進行復雜的數據分析和學習,而端側AI則負責實時、低延遲的任務處理。這種協同工作模式不僅能夠彌補單一模式的不足,還可以在保證處理效率的同時,確保用戶數據的隱私和安全。

那么,要把云端那些需要英偉達A100、H100顯卡才能跑起來的AI大模型,“拖到”小小的個人電腦中,應該怎么做呢?

聯想的做法是對大模型進行“壓縮”。

AI大模型通常涉及復雜的數據結構(如神經網絡的權重矩陣)。這些結構需要頻繁地在計算過程中修改和訪問,所以在訓練和推理過程中需要占用大量內存空間。

以GPT-3為例,它有1750億個參數。通常情況下,這些參數以32位浮點數(即float32)的形式存儲。在32位浮點數中,每個參數需要4字節的存儲空間。換算成更常見的單位,這大概相當于700GB。

目前參數量較小的主流AI大模型多位70億參數或130億參數,這些“小”模型需要的存儲空間,大約也要20GB以上。個人、辦公電腦上要運行這些模型,相當困難。

“我們現在做的技術就是如何把這個存儲的這些空間降低之后,還能保持原有的模型性能。”聯想研究院研究員謝棟介紹說。

聯想基于阿里通義千問的7B模型重新做了一個新的模型,在參數量不變的情況下對模型的“體積“進行了大幅度的壓縮,謝棟告訴虎嗅:”可能原來一個參數用兩個字節來存儲,經過壓縮,一個參數只有半個字節就可以存儲。“

阿里通義千問7B模型的原始大小是14.4GB,在聯想的Lenovo AI now中運行的模型則壓縮到了4GB。由此,AI大模型+電腦本身的緩存,大概只要5-6G內存就能運行起來。而目前,聯想的主流集成顯卡筆記本電腦內存都在16G以上,獨立顯卡的游戲本、高性能本顯存都在8G以上,可以輕松運行壓縮后的通義千問7B模型。

現在的AI與傳統的軟件不一樣,不是所有的芯片都能跑。AI與硬件之間還有一個中間層叫framework。目前,聯想的AI PC正在做的事就是定制自己的framework。

“中間層是決定他能在這樣的硬件基礎上跑的,第一要能跑,第二還要跑得好”聯想全球中小企業產品與解決方案總經理鄭愛國告訴虎嗅,“目前我們的專家每天都在和AMDIntel的專家溝通,對他們最新的平臺和芯片一個一個地調優,是其能最大限度地適合AI PC的工作和任務。”

目前聯想研究院在這個“中間層”的研發工作中擔任重要角色,除此之外,聯想對AI PC的研發采用了多元化布局。目前最主要的研發任務主要集中在中國和美國。在日本、巴西,以及印度也都有研發分布。聯想集團董事長兼CEO楊元慶表示:“創新還有研發一直以來都是聯想兩個重要的核心能力之一。我們的研發經費在過去幾年一直在提升,從不到3%到大概已經4%以上。”

如何用AI PC打出區隔

正在拉斯維加斯舉辦的2024 CES展上,聯想展出了ThinkBook 16P、ThinkPad P1、ThinkPad P16、ThinkBook 13x等多款AI Ready的產品。這些產品的推出,不僅是技術進步的展示,也是聯想在AI PC領域策略的體現。

聯想集團執行副總裁兼中國區總裁劉軍表示:“我們的AI PC目前處在AI Ready的階段,在2024年4月的聯想中國創新科技大會(TechWorld)上,我們將正式宣布我們的個人Agent。”這一聲明表明,聯想正將AI PC技術與個人助理功能結合,推動AI技術在個人電腦領域的深入應用。

在AI PC的硬件方面,聯想計劃推出CPU+GPU+NPU的混合AI模式,這種模式可以提高計算效率,優化AI應用的性能。NPU(神經網絡計算單元)的引入是對傳統CPU和GPU功能的補充,能夠更加專注于處理AI相關的任務。這種混合硬件布局不僅適用于PC,也將應用于手機、平板等多種設備,甚至擴展到商業環境和AIOT(AI驅動的IoT)產品。

在軟件生態方面,聯想的戰略是改變傳統PC行業甚至是消費電子產品的交互邏輯,從應用交互轉向意圖交互。這一轉變預示著未來的交互方式將更加直觀和自然。用戶不再需要通過復雜的菜單和步驟來執行任務,而是可以直接通過意圖來與設備互動。這種基于意圖的交互方式能夠大大提高用戶體驗,使設備更加智能和易用。

在探索這些新領域的同時,對于其他廠商而言,如何在AI PC市場中尋找自己的定位和特色,是一個值得思考的問題。例如,其他廠商可能會在特定的垂直領域內進行深耕,如專注于創意工作的AI應用,或者在安全性、隱私保護方面進行創新。同時,不同廠商可能會選擇不同的技術路徑或合作伙伴,以尋找差異化的市場機會。

對于整個PC行業來說,AI PC的發展是一個多維度的過程,涉及硬件、軟件、用戶體驗和生態系統等多個層面。聯想作為先行者,在AI PC方向上自然會占據一定的先發優勢,不過在創新產品的開發,以及AI技術的發展過程中,勢必也會遇到各種不確定的問題。

從行業趨勢來看,AI PC的未來可能不僅僅局限于個人電腦,而是會擴展到整個智能終端生態系統,包括智能家居、智能汽車等領域。這種趨勢下,廠商之間的競爭將不僅僅是硬件和軟件的競爭,更是對整個生態系統的理解和布局的競爭。

PC市場的拐點

IDC在2023年底發布的《全球季度個人計算設備跟蹤報告》指出,鑒于當前的經濟環境和市場狀況,對全球PC市場的預測被下調。預計2023年的出貨量將比2022年下降13.8%,而2022年的出貨量則比上年下降了16.6%。這種連續兩年的兩位數同比下降在個人電腦市場是前所未有的。不過這種“衰退”趨勢可能正在為市場的后續復蘇鋪平道路。

IDC認為,疫情期間售出的PC產品大多將在2024年面臨Windows更新周期。此外,一些失去微軟服務支持的舊版Windows系統,將面臨2024年升級至Windows 11的壓力。

這些因素在短期將會促進2024年PC市場的增長。而從長遠來看,PC市場更大的增長動力則很可能源自AI PC帶來的革命性升級。

聯想集團執行副總裁、智能設備業務集團總裁Luca Rossi在CES期間接受采訪時表示:“2023年市場確實遭遇了一些壓力。對于2024年全球市場的趨勢我們保持謹慎樂觀的態度,預見會有少量的增長。我們也樂觀地認為,在2024年下半年和2025年,AI PC將在消費和商用市場掀起廣泛的換機潮。人工智能電腦將成為轉折點,加速更換周期。”

雖然目前全球PC市場中,僅有聯想一家在大舉落地AI PC,但其它PC行業巨頭也都在對AI PC概念保持高度關注。HP和Dell的高管在近期的采訪中都表示AI PC必將大幅提升PC的升級換代潛力表示肯定,HP Personal Systems部門總裁Alex Cho認為:AI PC或有望幫助PC行業增長率翻倍。

盡管面臨短期挑戰,IDC預計2024年及以后的市場將會出現反彈。預計2024年PC市場總量將比2023年增長3.4%,這得益于AI PC對市場升級起到的催化作用。初步針對企業PC市場的某些細分市場,隨著用例的進一步發展和成本的降低,AI PC可能會推動更廣泛的市場應用。

同時,IDC認為2024年將是PC市場的關鍵一年,為市場近期的挑戰提供了喘息機會。預計2024年之后,出貨量的增長將超過大流行前的水平,在2027年達到2.85億臺的峰值。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • PC
    PC
    +關注

    關注

    9

    文章

    2066

    瀏覽量

    154027
  • 人工智能
    +關注

    關注

    1791

    文章

    46859

    瀏覽量

    237567
  • 大模型
    +關注

    關注

    2

    文章

    2328

    瀏覽量

    2483
  • AI大模型
    +關注

    關注

    0

    文章

    307

    瀏覽量

    293

原文標題:解密PC的AI進化:AI大模型如何“壓”進PC?

文章出處:【微信號:ZHISHIKU-Pro,微信公眾號:知識酷Pro】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    AI PC的崛起

    的發展,市場趨于飽和。到2010年,大多數人都擁有臺式機、筆記本電腦或平板電腦。2015年前后,PC市場陷入停滯,全球PC銷量停滯不前。 到了2024年,在推出內置AI PC的推
    的頭像 發表于 11-14 11:06 ?355次閱讀

    AI PC:真正的AI PC,敢于下場

    在過去的半年里,我們無一不在聆聽關于人工智能(AIPC的種種聲音,然而當步入現實生活時,恐怕仍有眾多讀者對此感到迷茫:這些AI PC究竟具有哪些A
    的頭像 發表于 06-11 15:02 ?663次閱讀

    實測NPU“空轉”,AI PC首個落地應用只調用GPU?

    AI PC的一大特征是在傳統PC的CPU+GPU基礎上,增加NPU加強AI 算力。不過有意思的是,最近某品牌PC機型上的
    的頭像 發表于 05-22 00:16 ?3092次閱讀

    聯想4月18日發布AI PC新品,引領AI PC時代

    聯想觀點,適應未來趨勢,PC產業即將步入基于大模型技術的AI PC階段,引領PC市場進入第三個重要代際更迭。于是,
    的頭像 發表于 03-21 15:28 ?731次閱讀

    AI PC產品密集發布,預計2025年AI PC占全球PC出貨量40%

    電子發燒友網報道(文/李彎彎)根據市場機構Canalys近日發布的最新報告,2024年標志著傳統PCAI PC的重大轉變,預估今年全球AI PC
    的頭像 發表于 03-20 01:15 ?3884次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>產品密集發布,預計2025年<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>占全球<b class='flag-5'>PC</b>出貨量40%

    新火種AI|全網熱炒的“AI PC”,可能是個偽概念

    ,英特爾CEO帕特·基辛格在硅谷首次提出了AI PC的概念。 英特爾認為,所謂AI PC,就是能玩轉AI功能的
    的頭像 發表于 02-18 14:25 ?498次閱讀
    新火種<b class='flag-5'>AI</b>|全網熱炒的“<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>”,可能是個偽概念

    扎堆AI PC戰場,2024年AI PC落地

    無論是傳統的PC制造商如戴爾、聯想、惠普,還是軟件和芯片巨頭如微軟、英特爾、AMD和英偉達,都紛紛將AI PC作為展示的重點,預示著這一領域即將迎來爆發式增長。
    的頭像 發表于 01-22 15:38 ?1422次閱讀

    什么是AI PCAI手機?AI PCAI手機出現的來龍去脈

    相信大家現在每天經常可以在報章媒體上看到“AI PC”、“AI 手機” 這兩個詞吧?特別是財經新聞,這幾個月時不時就可以看見哪一只股票又因是AI P
    的頭像 發表于 01-18 10:43 ?1707次閱讀

    AI PC是什么?如何變革PC產業(2023)

    AI PC整合了輕量化AI模型,將實現各種生成式AI應用的離線穩態運行。作為設備、邊緣計算和云技術的混合體,
    的頭像 發表于 12-27 17:37 ?1453次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>是什么?如何變革<b class='flag-5'>PC</b>產業(2023)

    AI PC拉動DRAM和NAND閃存需求

    近期,眾多知名品牌如三星電子、LG電子和惠普推出了搭載英特爾和 AMD 處理器的AI PC新品。這類AI PC(使用生成式AI算法)可以獨立
    的頭像 發表于 12-27 15:01 ?795次閱讀

    華碩:2025年AI PC發展迅猛,應用豐富

    胡書賓詳細解釋道,在2024年依序具備給AI PC提供支持并提升用戶體驗所需的軟件、硬件和AI應用程序等要素,預估AI PC的普及率大約僅幾
    的頭像 發表于 12-21 10:25 ?712次閱讀

    AI PC風潮來臨,2027年達到81%,成為PC市場主流

    結合聯想聯合IDC發布的首個AI PC產業白皮書,我們了解到AI PC不僅僅是傳統硬件,更是涵蓋了AI
    的頭像 發表于 12-13 09:38 ?475次閱讀

    AI PC 靈魂拷問

    。今年9月英特爾CEO帕特·基辛格在硅谷提出了PC的革命性概念——AI PC。 問題2:什么是AI PC? 答:
    的頭像 發表于 12-08 19:15 ?507次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b> 靈魂拷問

    AI重新定義PC體驗

    ,用戶的終端設備將成為真正的智能助手,以更直觀、更無縫的方式融入用戶的生活。在PC行業中未來蓬勃發展的企業,將是那些期待AI能夠實現集成化、個性化體驗的世界級企業。 當前,關于生成式AI的熱門討論聚焦在利用云端來運行、訓練、推理
    的頭像 發表于 12-06 10:15 ?509次閱讀
    <b class='flag-5'>AI</b>重新定義<b class='flag-5'>PC</b>體驗

    2024年將開啟AI PC規模出貨元年,全球PC邁入AI新時代!

    電子發燒友網報道(文/李彎彎)AI PC是一種集成了AI技術的個人電腦。它通過集成NPU、CPU、GPU等硬件,在實現高能、低耗的同時從根本上改變、重塑和重構PC體驗,釋放人們的生產力
    的頭像 發表于 12-02 01:14 ?2482次閱讀