精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI芯片全面發展!從訓練到推理、從云端到邊緣、從GPU到ASIC

Carol Li ? 來源:電子發燒友原創 ? 作者:李彎彎 ? 2021-11-13 09:24 ? 次閱讀
電子發燒友網報道(文/李彎彎)在過去接近10年時間里,AI產業經歷了幾個重要節點,2012年深度學習的研究突破,給AI產業帶來新的起點,2016年Alphago打敗李世石,正式引爆市場,一時間涌現出大量AI創業企業,資本也大量投進這個賽道。

在短時間火熱之后,湊熱鬧的人逐漸退出,AI產業繼續穩步向前發展,最近幾年AI技術快速發展,應用場景不斷浮現,AI產業也進入到爆發式增長階段,巨大的市場潛力逐漸顯現出來。據艾媒咨詢數據顯示,2020年中國AI芯片市場規模達183.8億元,預計2023年將突破千億級別。

同時AI芯片也逐漸呈現出多元化趨勢,主要體現在幾個方面:一是早期AI芯片更多集中在訓練上,如今除了AI訓練芯片持續增長,AI推理芯片的市場規模也在快速擴大,預計將超過訓練芯片;二是AI芯片過去主要部署在云端,如今已經向邊緣端/終端方向發展;第三,AI芯片有各種類型,其中多數是GPU,不過很明顯,ASICFPGA等非GPU芯片市場規模也在逐步提升。

AI推理芯片市場規模逐步擴大

AI芯片可分為訓練和推理兩個環節,訓練環節通常需要通過大量的數據輸入,或采取增強學習等非監督學習方法,訓練出一個復雜的深度神經網絡模型。推理環節指利用訓練好的模型,使用新的數據去推理出各種結論,比如,視頻監控設備通過后臺的深度神經網絡模型,判斷一張抓拍到的人臉是否屬于黑名單。

也因此通常也會有AI訓練芯片和AI推理芯片,另外還會根據是部署在云端數據中心、邊緣端、還是終端,更細化的分為云端AI訓練、云端AI推理、邊緣/終端AI推理芯片。

因為AI訓練需要大量的數據,基本被部署在云端,過去幾年地方政府加快建設公有云、私有云、數據中心,也因此AI訓練芯片市場大增,在2018年的時候中國云端AI訓練芯片市場份額達到51.3%,中國AI芯片市場規模也以云端訓練芯片為主。

不過隨著大規模地方性數據中心建設陸續完成,云端訓練芯片增長速度逐步放緩,而隨著各領域市場需求的釋放,云端推理芯片、終端推理芯片市場增長速度呈現上升趨勢,根據IDC研究發現,2020年中國數據中心用于推理的芯片的市場份額已經超過50%,預計到2025年,用于推理的工作負載的芯片將達到60.8%。

邊緣AI芯片市場規模將超過云端芯片

同時AI芯片正在從云端向邊緣端發展,IDC&浪潮日前發布的《2021-2022中國人工智能計算力發展評估報告》顯示,在新技術的驅動下,5G 等連接技術降低了數據的傳輸和處理速度,為了分擔數據中心的計算壓力并且也能提高實時響應速度,人工智能在邊緣側的處理將成為企業的一個關鍵增長領域。

人工智能在邊緣以及端側將有廣泛的應用場景,從自動駕駛工業制造,再到消費者智能家居和可穿戴設備。據市場咨詢公司ABI Research的數據顯示,預計到2025年,邊緣AI芯片市場的收入將達到122億美元,云AI芯片市場的收入將達到119億美元,邊緣AI芯片市場將超過云AI芯片組市場。


GPU芯片占比增加,將超過20%

目前AI芯片有3種主流技術路線,分別是GPU、ASIC以及FPGA。其中GPU芯片被認為更適合用于承擔訓練負載,有分析人士指出,目前GPU已經發展到較為成熟的階段。根據IDC數據,2021年上半年AI芯片中,GPU依然是實現數據中心加速的首選,占有90%以上市場份額。

英偉達是GPU領域的絕對龍頭,占據了絕大部分市場份額,近幾年國內也有多家GPU廠商逐漸成長起來,將其用于AI訓練和推理,包括天數智芯、摩爾線程、沐曦集成、壁仞科技、登臨科技等。

雖然目前GPU仍然占據主要的市場份額,不過ASIC、FPGA等其他非GPU芯片在各個領域越來越多的被使用,整體市場份額接近10%,預計到2025年其占比將超過20%,主要原因:一是越來越多的AI初創企業成長起來,它們很多采用ASIC芯片進行訓練和推理;二是GPU較多的被用于云端訓練,而隨著云端、邊緣推理芯片市場規模逐漸擴大,FPGA和ASIC芯片的價值更容易得到體現。

小結

整體而言,經過多年的發展,AI芯片市場規模正在快速增長,同時AI芯片也逐漸走向更加多元化,從功能上來看,逐漸從云端AI訓練拓展到云端和邊緣端推理,從芯片類型來看,GPU芯片仍然占據重要位置,而FPGA和ASIC等芯片的價值也得到更多體現。

我們也明顯看到,不少AI芯片企業開始全面推出產品,或者包括云端訓練和推理,或者同時進行云端和邊緣端芯片產品布局,比如寒武紀推出同時支持訓練和推理的芯片,燧原在推出云端訓練芯片之后,也推出了云端推理芯片,鯤云科技基于CAISA芯片的產品可應用于云端和邊緣端推理。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • asic
    +關注

    關注

    34

    文章

    1194

    瀏覽量

    120329
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4701

    瀏覽量

    128708
  • AI
    AI
    +關注

    關注

    87

    文章

    30151

    瀏覽量

    268422
收藏 人收藏

    評論

    相關推薦

    《算力芯片 高性能 CPUGPUNPU 微架構分析》第3篇閱讀心得:GPU革命:圖形引擎AI加速器的蛻變

    在數據挖掘工作中,我經常需要處理海量數據的深度學習任務,這讓我對GPU架構和張量運算充滿好奇。閱讀《算力芯片》第7-9章,讓我對這些關鍵技術有了全新認識。 GPU架構從早期的固定功能流水線,
    發表于 11-24 17:12

    AI云端計算資源有哪些類型

    AI云端計算資源涵蓋了基礎設施軟件服務的多個層面,為AI模型的訓練
    的頭像 發表于 11-15 09:39 ?119次閱讀

    工業機器視覺協作機器人,瑞薩電子有哪些AI芯片的布局?

    電子發燒友原創 章鷹 ? 近日,在深圳舉辦的高峰論壇上,瑞薩電子中國區總裁賴長青表示,隨著人工智能的發展潮流,瑞薩電子看到萬物互聯和AI深度融合,5G技術和AI技術同步向前發展,促成了
    的頭像 發表于 11-14 00:14 ?2220次閱讀
    <b class='flag-5'>從</b>工業機器視覺<b class='flag-5'>到</b>協作機器人,瑞薩電子有哪些<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>的布局?

    FPGA和ASIC在大模型推理加速中的應用

    隨著現在AI的快速發展,使用FPGA和ASIC進行推理加速的研究也越來越多,目前的市場來說,有些公司已經有了專門做
    的頭像 發表于 10-29 14:12 ?206次閱讀
    FPGA和<b class='flag-5'>ASIC</b>在大模型<b class='flag-5'>推理</b>加速中的應用

    利用NVIDIA技術推動下一代AI機器人發展

    人形機器人工廠,基于物理 AI 的工業系統正在通過訓練、仿真和推理加速發展
    的頭像 發表于 10-27 09:54 ?209次閱讀

    大功率電源EMC測試整改:設計測試的全面優化

    深圳南柯電子|大功率電源EMC測試整改:設計測試的全面優化
    的頭像 發表于 10-23 14:19 ?239次閱讀
    大功率電源EMC測試整改:<b class='flag-5'>從</b>設計<b class='flag-5'>到</b>測試的<b class='flag-5'>全面</b>優化

    2G信號放大器:邊緣核心,重塑舊時代的通信

    深圳特信放大器|2G信號放大器:邊緣核心,重塑舊時代的通信
    的頭像 發表于 10-11 09:04 ?233次閱讀

    FCom解讀熱敏晶振與溫補晶振:結構原理,差異使用條件

    解讀熱敏晶振與溫補晶振:結構原理,差異使用條件 一、結構組成 二、工作原理 三、相似點 四、區別 五、使用條件
    的頭像 發表于 05-23 12:04 ?1610次閱讀
    FCom解讀熱敏晶振與溫補晶振:<b class='flag-5'>從</b>結構<b class='flag-5'>到</b>原理,<b class='flag-5'>從</b>差異<b class='flag-5'>到</b>使用條件

    訓練到推理AI 大模型發展有哪五大趨勢?IDC專家解讀

    2024年兩會召開后,兩會報告把加快發展新質生產力列為十大任務舉措之首。新質生產力的核心是用新技術促進產業高端化、智能化和綠色化。ICT產業是發展新質生產力的核心支撐要求,ICT產業正在進入AI無處不在的大轉型階段。
    的頭像 發表于 04-22 07:57 ?3058次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>訓練到</b><b class='flag-5'>推理</b>,<b class='flag-5'>AI</b> 大模型<b class='flag-5'>發展</b>有哪五大趨勢?IDC專家解讀

    Groq LPU崛起,AI芯片主戰場訓練轉向推理

    人工智能推理的重要性日益凸顯,高效運行端側大模型及AI軟件背后的核心技術正是推理。不久的未來,全球芯片制造商的主要市場將全面轉向人工智能
    的頭像 發表于 02-29 16:46 ?1103次閱讀

    黑馬Groq單挑英偉達,AI芯片要變天?

    AI訓練到AI推理
    的頭像 發表于 02-26 12:01 ?304次閱讀

    新火種AI|GPT-5AI芯片廠,山姆·奧特曼在下一盤多大的棋?

    標題:GPT-5AI芯片廠,山姆·奧特曼在下一盤多大的棋? 轉發語:山姆·奧特曼暴露野心,同時挑戰英偉達和臺積電?
    的頭像 發表于 01-26 09:54 ?374次閱讀
    新火種<b class='flag-5'>AI</b>|<b class='flag-5'>從</b>GPT-5<b class='flag-5'>到</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>廠,山姆·奧特曼在下一盤多大的棋?

    到底什么是ASIC和FPGA?

    ? 最后,我們還是要繞回到AI芯片的話題。 上一期,小棗君埋了一個雷,說AI計算分訓練推理訓練
    發表于 01-23 19:08

    石墨烯:芯片材料的新紀元探索

    芯片,作為現代電子設備的核心,其性能、功耗和成本很大程度上取決于所使用的材料。隨著科技的進步,芯片材料的研究與發展也日益受到關注。本文將為您詳細介紹十大芯片材料,
    的頭像 發表于 12-29 10:18 ?879次閱讀
    <b class='flag-5'>從</b>硅<b class='flag-5'>到</b>石墨烯:<b class='flag-5'>芯片</b>材料的新紀元探索

    AI算法在RZ/V芯片中的移植推理流程

    之前文章已介紹了一些AI算法Demo的應用 ,我們提供模型訓練到RZ/V系列嵌入式端推理應用的完整流程。整體流程如下圖所示。
    的頭像 發表于 12-20 12:21 ?1022次閱讀
    <b class='flag-5'>AI</b>算法在RZ/V<b class='flag-5'>芯片</b>中的移植<b class='flag-5'>推理</b>流程