當地時間2024年1月9日,2024年國際消費電子展(CES 2024)在美國拉斯維加斯舉辦。AI for All成為CES大會的關鍵議題之一。在眾多展品當中,被視作個人大模型普惠第一終端的AI PC吸引眾多目光。全球最大的PC廠商聯想集團更是推出了包括Yoga Pro 9i,ThinkBook Plus Gen 5 Hybrid、全球首款商務AI PC ThinkPad X1 Carbon AI、ThinkCentre neo Ultra在內的一眾AI PC產品。那么這些初次登場的AI PC產品身上到底有什么黑科技呢?虎嗅與您一起走進2024CES,為您揭開AI PC神秘的面紗。
奔馳、寶馬、大眾紛紛把大語言模型接入車機系統,讓人能跟汽車自然對話。
三星給冰箱裝了個AI識別系統,可以識別食物品種和新鮮度。
LG推出了會問候早安、歡迎回家的家庭AI機器人。
在2024年的CES展上, AI熱度仍在持續,各家廠商都在喊AI for All,All in AI之類的口號。
然而對于普通的消費電子用戶來說,更關注的似乎還是停留在手邊的設備,比如作為我們生產力工具的電腦。
AI PC是2024年CES展中最熱的詞之一,在數據中心業務上賺的盆滿缽滿的英偉達,也在本次展會上推出了多款聚焦個人、商用電腦的AI硬件產品和應用。包括RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super三款GPU,將大語言模型(LLM)的處理速度提升了5倍,將AI視頻生成速度提高了150%。
英偉達產品管理的高級總監Justin Walker在新聞發布會上強調:“我們已經銷售了超過1億塊RTX GPU,這為運行AI應用的個人電腦提供了堅實的硬件基礎。”
在PC終端方面,微軟在CES大會之前,就宣布將在新款Windows 11電腦上配備Copilot按鈕,這是一個專門用于調用現已融入其操作系統的人工智能聊天機器人的功能。配備Copilot按鈕的首批設備預計將在本月完成上市。值得注意的是,Windows PC鍵盤布局上次的重大變革還是在30年前。
不過,在AI PC方面走的最靠前的當屬聯想。從2023年10月的全球TechWorld大會宣布了全線AI PC規劃后,僅幾個月時間,聯想就帶著多款AI Ready階段的AI PC產品亮相CES展。包括賦能創作過程的Yoga Pro 9i,全球第一臺可無縫切換筆記本電腦和平板電腦兩種模式的ThinkBook Plus Gen 5 Hybrid、全球首款商務AI PC ThinkPad X1 Carbon AI、新一代超小型ThinkCentre neo Ultra等。
無論是AI技術發展,還是PC市場趨勢,都預示著AI將會成為2024年的PC行業新的增長引擎。AI PC則成為了傳統PC廠商的新增長機會,甚至有可能打破依靠供應鏈和渠道驅動的業務模式,創造出全新的PC市場趨勢和發展模式。
技術大揭秘:把AI裝進PC
大模型的通用性、泛化能力都是來自于模型的參數量,從AI大模型熱潮爆發至今,模型的參數量不斷擴大,對算力的需求也在直線上漲。由此AI需要云端算力,幾乎成了業界共識,很多人認為脫離了云服務器的AI PC很難把模型的能力發揮好。
然而,對于個人和商業用戶來說,純粹的云端AI也并不是萬能的。隨著AI技術的發展和應用場景的多樣化,依賴云端AI處理大量數據、提供服務的模式正逐步顯現出局限性。
目前的AI云服務主要面臨三個比較明顯的挑戰:成本、安全和響應速度。
而結合云端AI和AI PC類產品的優勢,構建的云端+本地的AI模式,很可能會成為未來AI的發展趨勢。通過這種模式,大型AI模型可以在云端進行復雜的數據分析和學習,而端側AI則負責實時、低延遲的任務處理。這種協同工作模式不僅能夠彌補單一模式的不足,還可以在保證處理效率的同時,確保用戶數據的隱私和安全。
那么,要把云端那些需要英偉達A100、H100顯卡才能跑起來的AI大模型,“拖到”小小的個人電腦中,應該怎么做呢?
聯想的做法是對大模型進行“壓縮”。
AI大模型通常涉及復雜的數據結構(如神經網絡的權重矩陣)。這些結構需要頻繁地在計算過程中修改和訪問,所以在訓練和推理過程中需要占用大量內存空間。
以GPT-3為例,它有1750億個參數。通常情況下,這些參數以32位浮點數(即float32)的形式存儲。在32位浮點數中,每個參數需要4字節的存儲空間。換算成更常見的單位,這大概相當于700GB。
目前參數量較小的主流AI大模型多位70億參數或130億參數,這些“小”模型需要的存儲空間,大約也要20GB以上。個人、辦公電腦上要運行這些模型,相當困難。
“我們現在做的技術就是如何把這個存儲的這些空間降低之后,還能保持原有的模型性能。”聯想研究院研究員謝棟介紹說。
聯想基于阿里通義千問的7B模型重新做了一個新的模型,在參數量不變的情況下對模型的“體積“進行了大幅度的壓縮,謝棟告訴虎嗅:”可能原來一個參數用兩個字節來存儲,經過壓縮,一個參數只有半個字節就可以存儲。“
阿里通義千問7B模型的原始大小是14.4GB,在聯想的Lenovo AI now中運行的模型則壓縮到了4GB。由此,AI大模型+電腦本身的緩存,大概只要5-6G內存就能運行起來。而目前,聯想的主流集成顯卡筆記本電腦內存都在16G以上,獨立顯卡的游戲本、高性能本顯存都在8G以上,可以輕松運行壓縮后的通義千問7B模型。
現在的AI與傳統的軟件不一樣,不是所有的芯片都能跑。AI與硬件之間還有一個中間層叫framework。目前,聯想的AI PC正在做的事就是定制自己的framework。
“中間層是決定他能在這樣的硬件基礎上跑的,第一要能跑,第二還要跑得好”聯想全球中小企業產品與解決方案總經理鄭愛國告訴虎嗅,“目前我們的專家每天都在和AMD和Intel的專家溝通,對他們最新的平臺和芯片一個一個地調優,是其能最大限度地適合AI PC的工作和任務。”
目前聯想研究院在這個“中間層”的研發工作中擔任重要角色,除此之外,聯想對AI PC的研發采用了多元化布局。目前最主要的研發任務主要集中在中國和美國。在日本、巴西,以及印度也都有研發分布。聯想集團董事長兼CEO楊元慶表示:“創新還有研發一直以來都是聯想兩個重要的核心能力之一。我們的研發經費在過去幾年一直在提升,從不到3%到大概已經4%以上。”
如何用AI PC打出區隔
正在拉斯維加斯舉辦的2024 CES展上,聯想展出了ThinkBook 16P、ThinkPad P1、ThinkPad P16、ThinkBook 13x等多款AI Ready的產品。這些產品的推出,不僅是技術進步的展示,也是聯想在AI PC領域策略的體現。
聯想集團執行副總裁兼中國區總裁劉軍表示:“我們的AI PC目前處在AI Ready的階段,在2024年4月的聯想中國創新科技大會(TechWorld)上,我們將正式宣布我們的個人Agent。”這一聲明表明,聯想正將AI PC技術與個人助理功能結合,推動AI技術在個人電腦領域的深入應用。
在AI PC的硬件方面,聯想計劃推出CPU+GPU+NPU的混合AI模式,這種模式可以提高計算效率,優化AI應用的性能。NPU(神經網絡計算單元)的引入是對傳統CPU和GPU功能的補充,能夠更加專注于處理AI相關的任務。這種混合硬件布局不僅適用于PC,也將應用于手機、平板等多種設備,甚至擴展到商業環境和AIOT(AI驅動的IoT)產品。
在軟件生態方面,聯想的戰略是改變傳統PC行業甚至是消費電子產品的交互邏輯,從應用交互轉向意圖交互。這一轉變預示著未來的交互方式將更加直觀和自然。用戶不再需要通過復雜的菜單和步驟來執行任務,而是可以直接通過意圖來與設備互動。這種基于意圖的交互方式能夠大大提高用戶體驗,使設備更加智能和易用。
在探索這些新領域的同時,對于其他廠商而言,如何在AI PC市場中尋找自己的定位和特色,是一個值得思考的問題。例如,其他廠商可能會在特定的垂直領域內進行深耕,如專注于創意工作的AI應用,或者在安全性、隱私保護方面進行創新。同時,不同廠商可能會選擇不同的技術路徑或合作伙伴,以尋找差異化的市場機會。
對于整個PC行業來說,AI PC的發展是一個多維度的過程,涉及硬件、軟件、用戶體驗和生態系統等多個層面。聯想作為先行者,在AI PC方向上自然會占據一定的先發優勢,不過在創新產品的開發,以及AI技術的發展過程中,勢必也會遇到各種不確定的問題。
從行業趨勢來看,AI PC的未來可能不僅僅局限于個人電腦,而是會擴展到整個智能終端生態系統,包括智能家居、智能汽車等領域。這種趨勢下,廠商之間的競爭將不僅僅是硬件和軟件的競爭,更是對整個生態系統的理解和布局的競爭。
PC市場的拐點
IDC在2023年底發布的《全球季度個人計算設備跟蹤報告》指出,鑒于當前的經濟環境和市場狀況,對全球PC市場的預測被下調。預計2023年的出貨量將比2022年下降13.8%,而2022年的出貨量則比上年下降了16.6%。這種連續兩年的兩位數同比下降在個人電腦市場是前所未有的。不過這種“衰退”趨勢可能正在為市場的后續復蘇鋪平道路。
IDC認為,疫情期間售出的PC產品大多將在2024年面臨Windows更新周期。此外,一些失去微軟服務支持的舊版Windows系統,將面臨2024年升級至Windows 11的壓力。
這些因素在短期將會促進2024年PC市場的增長。而從長遠來看,PC市場更大的增長動力則很可能源自AI PC帶來的革命性升級。
聯想集團執行副總裁、智能設備業務集團總裁Luca Rossi在CES期間接受采訪時表示:“2023年市場確實遭遇了一些壓力。對于2024年全球市場的趨勢我們保持謹慎樂觀的態度,預見會有少量的增長。我們也樂觀地認為,在2024年下半年和2025年,AI PC將在消費和商用市場掀起廣泛的換機潮。人工智能電腦將成為轉折點,加速更換周期。”
雖然目前全球PC市場中,僅有聯想一家在大舉落地AI PC,但其它PC行業巨頭也都在對AI PC概念保持高度關注。HP和Dell的高管在近期的采訪中都表示AI PC必將大幅提升PC的升級換代潛力表示肯定,HP Personal Systems部門總裁Alex Cho認為:AI PC或有望幫助PC行業增長率翻倍。
盡管面臨短期挑戰,IDC預計2024年及以后的市場將會出現反彈。預計2024年PC市場總量將比2023年增長3.4%,這得益于AI PC對市場升級起到的催化作用。初步針對企業PC市場的某些細分市場,隨著用例的進一步發展和成本的降低,AI PC可能會推動更廣泛的市場應用。
同時,IDC認為2024年將是PC市場的關鍵一年,為市場近期的挑戰提供了喘息機會。預計2024年之后,出貨量的增長將超過大流行前的水平,在2027年達到2.85億臺的峰值。
-
PC
+關注
關注
9文章
2066瀏覽量
154027 -
人工智能
+關注
關注
1791文章
46859瀏覽量
237567 -
大模型
+關注
關注
2文章
2328瀏覽量
2483 -
AI大模型
+關注
關注
0文章
307瀏覽量
293
原文標題:解密PC的AI進化:AI大模型如何“壓”進PC?
文章出處:【微信號:ZHISHIKU-Pro,微信公眾號:知識酷Pro】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論