電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)根據(jù)應(yīng)用場景的不同,AI芯片被分為云端AI芯片和邊緣AI芯片。云端AI芯片有些用于訓(xùn)練,有些用于推理。過去幾年AI芯片的市場需求不斷增加,2017年整體AI芯片市場規(guī)模為62.7億美元,預(yù)計(jì)到2022年將會(huì)達(dá)到596.2億美元。
而云端AI芯片的市場需求也是增長明顯,根據(jù)市場調(diào)研機(jī)構(gòu)數(shù)據(jù),2017年云端訓(xùn)練AI芯片市場規(guī)模為20.2億美元,云端推理芯片為3.4億美元。預(yù)計(jì)到2022年,云端訓(xùn)練AI芯片將達(dá)到172.1億美元,云端推理芯片為71.9億美元
如今在全球云端AI芯片市場領(lǐng)域,可以說是英偉達(dá)一家獨(dú)大,在云端訓(xùn)練市場占比達(dá)到90%,在云端推理市場占比也高達(dá)60%。另外,國外的英特爾、AMD等廠商也在積極布局。
在國內(nèi),也有大批企業(yè)尋求在云端AI芯片方面不斷突破,包括寒武紀(jì)、昆侖芯、燧原科技、天數(shù)智芯,以及瀚博半導(dǎo)體、沐曦集成、壁仞科技、摩爾線程、登臨科技等。這里對(duì)這些企業(yè)及產(chǎn)品進(jìn)展做了梳理,如下:
寒武紀(jì)
寒武紀(jì)成立于2016年,專注于人工智能芯片產(chǎn)品的研發(fā)與技術(shù)創(chuàng)新,致力于打造人工智能領(lǐng)域的核心處理器芯片。產(chǎn)品廣泛應(yīng)用于服務(wù)器廠商和產(chǎn)業(yè)公司,面向互聯(lián)網(wǎng)、金融、交通、能源、電力和制造等領(lǐng)域的復(fù)雜AI應(yīng)用場景提供充裕算力,推動(dòng)人工智能賦能產(chǎn)業(yè)升級(jí)。
寒武紀(jì)云端智能芯片產(chǎn)品,大致可以分為云端訓(xùn)練芯片和云端推理芯片,包括云端推理芯片思元270,主要面向云端訓(xùn)練的高端產(chǎn)品思元290,以及主要面向中高端訓(xùn)推場景的思元370。
思元290是寒武紀(jì)首顆AI訓(xùn)練芯片,采用創(chuàng)新性的MLUv02擴(kuò)展架構(gòu),使用臺(tái)積電7nm先進(jìn)制程工藝制造,在一顆芯片上集成了高達(dá)460億的晶體管。
思元370基于7nm制程工藝,是寒武紀(jì)首款采用chiplet(芯粒)技術(shù)的AI芯片,集成了390億個(gè)晶體管,最大算力高達(dá)256TOPS(INT8),是寒武紀(jì)第二代產(chǎn)品思元270算力的2倍。憑借寒武紀(jì)最新智能芯片架構(gòu)MLUarch03,思元370實(shí)測(cè)性能表現(xiàn)更為優(yōu)秀。
思元370是國內(nèi)第一款公開發(fā)布支持LPDDR5內(nèi)存的云端AI芯片,內(nèi)存帶寬是上一代產(chǎn)品的3倍,訪存能效達(dá)GDDR6的1.5倍。搭載MLU-Link?多芯互聯(lián)技術(shù),在分布式訓(xùn)練或推理任務(wù)中為多顆思元370芯片提供高效協(xié)同能力。全新升級(jí)的Cambricon NeuWare軟件棧,新增推理加速引擎MagicMind,實(shí)現(xiàn)訓(xùn)推一體,大幅提升了開發(fā)部署的效率,降低用戶的學(xué)習(xí)成本、開發(fā)成本和運(yùn)營成本。
思元370通過不同MLU-Die組合出了三款不同規(guī)格、符合不同場景需求的加速卡產(chǎn)品MLU370-S4、MLU370-X4、MLU370-X8。
2021年,寒武紀(jì)與阿里巴巴等頭部互聯(lián)網(wǎng)企業(yè)的多個(gè)業(yè)務(wù)部門進(jìn)行了深入合作,云端產(chǎn)品思元370芯片及加速卡在視覺、語音、圖文識(shí)別等場景的適配性能表現(xiàn)超出客戶預(yù)期,部分場景已經(jīng)進(jìn)入小批量銷售環(huán)節(jié)。在金融領(lǐng)域,寒武紀(jì)與多家頭部銀行進(jìn)行了導(dǎo)入和適配。其中,MLU370-X4在招商銀行多個(gè)業(yè)務(wù)場景的實(shí)測(cè)性能超過競品,能夠大幅提升客戶的效率。
昆侖芯
昆侖芯于2021年4月完成了獨(dú)立融資,前身是百度智能芯片及架構(gòu)部,在實(shí)際業(yè)務(wù)場景中深耕AI加速領(lǐng)域已十余年,是一家在體系結(jié)構(gòu)、芯片實(shí)現(xiàn)、軟件系統(tǒng)和場景應(yīng)用均有深厚積累的AI芯片企業(yè)。
昆侖芯1代芯片于2020年量產(chǎn),昆侖芯2代于2021年8月18日宣布正式量產(chǎn)。2022年09月百度集團(tuán)執(zhí)行副總裁沈抖透露,昆侖芯3代將于2024年初量產(chǎn)。
昆侖芯1代芯片采用14nm工藝,256 TOPS@INT8算力,可用于云數(shù)據(jù)中心和智能邊緣,支持全AI算法,落地超過兩萬片;昆侖芯2代芯片,搭載自研的第二代XPU架構(gòu),采用7nm制程,GDDR6高性能顯存,算力256 TOPS@INT8,128 TFLOPS@FP16,相比一代性能提升2-3倍,適用于云、端、邊等多場景,支持硬件虛擬化,芯片間互聯(lián)和視頻編解碼。
昆侖芯 AI 芯片除了擁有自研 XPU 架構(gòu)及多項(xiàng)自主設(shè)計(jì),也已與飛騰等多款國產(chǎn)通用處理器、麒麟等多款國產(chǎn)操作系統(tǒng)以及百度自研的飛槳深度學(xué)習(xí)框架完成了端到端的適配,擁有軟硬一體的全棧國產(chǎn)AI能力。
目前,昆侖芯科技已與智能產(chǎn)業(yè)的上下游企業(yè)建立了良好的合作生態(tài),通過向不同行業(yè)提供以人工智能芯片為基礎(chǔ)的算力產(chǎn)品,輻射互聯(lián)網(wǎng)、智慧城市、智算中心、智慧工業(yè)、智慧應(yīng)急、智慧交通、智慧金融等“智慧+”產(chǎn)業(yè),以計(jì)算驅(qū)動(dòng)智能,以智能促進(jìn)發(fā)展。
燧原科技
燧原科技成立于2018年3月,專注人工智能領(lǐng)域云端算力產(chǎn)品,致力為人工智能產(chǎn)業(yè)發(fā)展交付普惠的基礎(chǔ)設(shè)施解決方案,提供原始創(chuàng)新、全棧自研、具備完全自主知識(shí)產(chǎn)權(quán)的通用人工智能訓(xùn)練和推理產(chǎn)品。憑借其高算力、 高能效比以及靈活編程能力,可廣泛應(yīng)用于互聯(lián)網(wǎng)、金融、交通、能源及新基建等多個(gè)行業(yè)和場景。
截至目前,燧原科技已經(jīng)開發(fā)了兩個(gè)產(chǎn)品線,一個(gè)是云端的訓(xùn)練,包括邃思1.0和邃思2.0,一個(gè)是推理芯片,邃思2.5。
邃思1.0基于可編程芯片的設(shè)計(jì)理念,其計(jì)算核心包含32個(gè)通用可擴(kuò)展神經(jīng)元處理器(SIP),每8個(gè)SIP組合成1個(gè)可擴(kuò)展智能計(jì)算群(SIC)。SIC之間通過HBM實(shí)現(xiàn)高速互聯(lián),通過片上調(diào)度算法,數(shù)據(jù)在搬遷中完成計(jì)算,實(shí)現(xiàn)SIP利用率最大化。邃思支持CNN、RNN、LSTM、BERT等網(wǎng)絡(luò)模型和豐富的數(shù)據(jù)類型(FP32/FP16/BF16/Int8/Int16/Int32等)。
邃思2.0基于GCU-CARA 2.0架構(gòu),以TF32為核心提供多數(shù)據(jù)精度AI算力支持,針對(duì)張量、矢量、標(biāo)量等多計(jì)算范式提供領(lǐng)先性能,支持指令驅(qū)動(dòng)、可編程的融合式數(shù)據(jù)流架構(gòu),提供軟件透明、基于任務(wù)的智能調(diào)度;基于12nm FinFET先進(jìn)工藝,單芯片包含225億個(gè)晶體管,有效提升算力密度;廣泛支持視覺、語音語義、強(qiáng)化學(xué)習(xí)等各技術(shù)方向的模型訓(xùn)練。
燧原科技創(chuàng)始人趙立東前不久表示,公司去年與浪潮科技,聯(lián)合發(fā)布了錢塘江智算中心的解決方案,打造了一個(gè)液冷的160臺(tái)服務(wù)器的算力集群,集成了180張燧原科技第一代的訓(xùn)練卡,現(xiàn)在已部署在之江實(shí)驗(yàn)室上線運(yùn)行。
天數(shù)智芯
天數(shù)智芯2018年正式啟動(dòng)通用并行云端計(jì)算芯片設(shè)計(jì),公司致力于開發(fā)云端服務(wù)器級(jí)的通用高性能計(jì)算芯片,以客戶、市場為導(dǎo)向,瞄準(zhǔn)以云計(jì)算、人工智能、數(shù)字化轉(zhuǎn)型為代表的數(shù)據(jù)驅(qū)動(dòng)技術(shù)市場,解決核心算力瓶頸問題,為全產(chǎn)業(yè)打造高端算力解決方案。
2021年3月,天數(shù)智芯正式發(fā)布通用GPU“天垓100”芯片及天垓100加速卡。天垓100芯片基于7nm工藝,采用全自研的架構(gòu)、計(jì)算核、指令集及基礎(chǔ)軟件棧,2.5D CoWoS晶圓封裝技術(shù),包括240億個(gè)晶體管。
天數(shù)智芯堅(jiān)持自研通用GPU體系思路,天垓100適配x86、ARM、MIPS等架構(gòu)CPU指令集,業(yè)界標(biāo)準(zhǔn)的軟件API(應(yīng)用程序編程接口)支持垂直類行業(yè)應(yīng)用開發(fā),支持TensorFlow、PyTorch等各種主流深度學(xué)習(xí)開發(fā)框架,以及軟硬件全棧支持等,廣泛應(yīng)用于互聯(lián)網(wǎng)、運(yùn)營商、生物醫(yī)療、教育科研、智算中心等不同行業(yè)眾多應(yīng)用場景。
2022年4月,天數(shù)智芯宣布,目前天垓100產(chǎn)品累計(jì)訂單金額已經(jīng)接近2億元,覆蓋新華三等多個(gè)頭部企業(yè)。而且,天垓100已支撐近百個(gè)客戶在人工智能領(lǐng)域進(jìn)行超過兩百個(gè)不同種類模型訓(xùn)練。另外天數(shù)智芯首款7nm通用GPU推理產(chǎn)品智鎧100也在今年5月份成功點(diǎn)亮。
瀚博半導(dǎo)體
瀚博半導(dǎo)體成立于2018年,專注于研發(fā)高性能通用加速芯片,為計(jì)算機(jī)視覺、智能視頻處理、自然語言處理等應(yīng)用場景,提供低延時(shí)、高吞吐的異構(gòu)計(jì)算性能和高效的性能/功耗比,芯片解決方案覆蓋從云端到邊緣的服務(wù)器及一體機(jī)市場。
2021年7月7日,瀚博半導(dǎo)體發(fā)布首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡。SV100系列,深度學(xué)習(xí)推理性能指標(biāo)數(shù)倍于現(xiàn)有主流數(shù)據(jù)中心GPU,超高吞吐量、超低延遲;針對(duì)各種深度學(xué)習(xí)推理負(fù)載而優(yōu)化的通用架構(gòu),支持計(jì)算機(jī)視覺、視頻處理、自然語言處理和搜索推薦等推理應(yīng)用場景;集成高密度視頻解碼,廣泛適用于云端與邊緣解決方案,單芯片INT8峰值算力超過200TOPS,節(jié)省設(shè)備投資、降低運(yùn)營成本。
在2022年世界人工智能大會(huì)期間,瀚博半導(dǎo)體又發(fā)布了四款新品:瀚博統(tǒng)一計(jì)算架構(gòu)、全新數(shù)據(jù)中心AI推理卡載天VA10、邊緣AI推理加速卡載天VE1、以及瀚博軟件平臺(tái)VastStream擴(kuò)展版。此外,瀚博還預(yù)覽展示國產(chǎn)7nm云端GPU芯片SG100,用于圖像渲染、視頻、元宇宙等領(lǐng)域,不過這款產(chǎn)品目前還未發(fā)布。
沐曦集成
沐曦集成成立于202年9月,公司致力于為異構(gòu)計(jì)算提供安全可靠的高性能GPU芯片及解決方案,可廣泛應(yīng)用于人工智能、智慧城市、數(shù)據(jù)中心、云計(jì)算、自動(dòng)駕駛、科學(xué)計(jì)算、數(shù)字孿生、元宇宙等前沿領(lǐng)域,為數(shù)字經(jīng)濟(jì)發(fā)展提供強(qiáng)大的算力支撐。
2022年1月,沐曦首款采用7nm工藝的異構(gòu)GPU產(chǎn)品已正式流片,預(yù)計(jì)很快量產(chǎn)。該產(chǎn)品主要用于AI推理場景,可在人工智能、自動(dòng)駕駛、工業(yè)和制造自動(dòng)化、智慧城市、自然語言處理、邊緣計(jì)算等領(lǐng)域應(yīng)用。
沐曦第二款用于科學(xué)計(jì)算、數(shù)據(jù)中心彈性計(jì)算、AI訓(xùn)練等的旗艦GPU芯片也已進(jìn)入研發(fā)收尾階段,計(jì)劃于2024年全面量產(chǎn)。此外,到2025年,沐曦將推出融合了圖形渲染的完整GPU產(chǎn)品,也就是顯示和游戲用途的GPU。
沐曦產(chǎn)品均采用完全自主研發(fā)的高性能GPU IP,擁有完全自主的指令集和架構(gòu),配以兼容主流GPU生態(tài)的完整軟件棧(MACAMACA),具備高性能、高效能和高通用性的天然優(yōu)勢(shì),能夠?yàn)榭蛻魳?gòu)建軟硬件一體的全面生態(tài)解決方案。
壁仞科技
壁仞科技創(chuàng)立于2019年,致力于開發(fā)原創(chuàng)性的通用計(jì)算體系,建立高效的軟硬件平臺(tái),同時(shí)在智能計(jì)算領(lǐng)域提供一體化的解決方案。從發(fā)展路徑上,壁仞科技將首先聚焦云端通用智能計(jì)算,逐步在人工智能訓(xùn)練和推理、圖形渲染等多個(gè)領(lǐng)域趕超現(xiàn)有解決方案。
壁仞科技BR100系列通用GPU芯片,針對(duì)人工智能訓(xùn)練、推理,及科學(xué)計(jì)算等更廣泛的通用計(jì)算場景開發(fā),主要部署在大型數(shù)據(jù)中心,依托“壁立仞”原創(chuàng)架構(gòu),可提供高能效、高通用性的加速計(jì)算算力。目前,BR100系列擁有BR100、BR104兩款芯片。
BR100系列采用7nm制程,并創(chuàng)新性應(yīng)用Chiplet與2.5D CoWoS封裝技術(shù),兼顧高良率與高性能;支持PCIe 5.0接口技術(shù)與CXL通信協(xié)議,雙向帶寬最高達(dá)128 GB/s;原創(chuàng)BLink?高速GPU互連技術(shù),單卡互連帶寬最高達(dá)448 GB/s,并支持單節(jié)點(diǎn)8卡全互連;除原生支持FP32、BF16、FP16、INT8等主流數(shù)據(jù)精度外,原創(chuàng)定義TF32+數(shù)據(jù)精度,相較TF32提供更高數(shù)據(jù)精度與吞吐性能。
摩爾線程
摩爾線程成立于2020年10月,專注于研發(fā)設(shè)計(jì)全功能GPU芯片及相關(guān)產(chǎn)品,支持3D高速圖形渲染、AI訓(xùn)練推理加速、超高清視頻編解碼和高性能科學(xué)計(jì)算等多種組合工作負(fù)載,兼顧算力與算效,能夠?yàn)橹袊萍忌鷳B(tài)合作伙伴提供強(qiáng)大的計(jì)算加速能力。
2022年3月30日,摩爾線程正式推出首款基于其先進(jìn)架構(gòu)MUSA統(tǒng)一系統(tǒng)架構(gòu)(Moore Threads Unified System Architecture)打造的數(shù)據(jù)中心級(jí)多功能GPU產(chǎn)品MTT S2000,內(nèi)置渲染、音視頻編解碼、人工智能加速和并行計(jì)算等硬件模塊,能夠提供圖形圖像渲染、視頻云處理、AI和科學(xué)計(jì)算在內(nèi)的全棧功能。
憑借其獨(dú)特的渲染、虛擬化等能力和廣泛的生態(tài)支持,MTT S2000可以在云桌面、安卓云游戲、視頻云、云渲染和AI推理計(jì)算加速等應(yīng)用場景全面助力綠色數(shù)字經(jīng)濟(jì)發(fā)展。
摩爾線程MTT S2000兼容X86、ARM等CPU架構(gòu)以及主流Linux操作系統(tǒng)發(fā)行版,并已著手與多家服務(wù)器合作伙伴開展合作,包括浪潮、新華三、聯(lián)想、清華同方、長城超云、思騰合力等OEM廠商多款通用服務(wù)器及GPU服務(wù)器型號(hào),可以在眾多硬件和應(yīng)用環(huán)境中完成部署。
得益于豐富的模型庫支持和先進(jìn)硬件設(shè)計(jì),MTT S2000能夠滿足計(jì)算機(jī)視覺、自然語言處理等多種智能應(yīng)用場景的模型訓(xùn)練和推理應(yīng)用,并對(duì)包括DBNet、CRNN、FastRCNN、Yolo V2/V3/V5、PSENet、Mask RCNN、Resnet 50/101、Inception、Vgg、Alexnet、Densenet、Unet等在內(nèi)的眾多主流深度學(xué)習(xí)算法提供支持。
同時(shí),MTT S2000也支持用戶使用PyTorch、TensorFlow、PaddlePaddle等深度學(xué)習(xí)框架進(jìn)行算法開發(fā)及應(yīng)用搭建。此外,用戶也可通過應(yīng)用更廣泛的OpenCL及CUDA環(huán)境進(jìn)行開發(fā),大幅降低了新硬件的學(xué)習(xí)及應(yīng)用門檻,提升開發(fā)速度。
登臨科技
登臨科技成立于2017年,專注于高性能通用計(jì)算平臺(tái)的芯片研發(fā)與技術(shù)創(chuàng)新,致力于打造云邊端一體、軟硬件協(xié)同、訓(xùn)練推理融合的前沿芯片產(chǎn)品和平臺(tái)化基礎(chǔ)系統(tǒng)軟件。
公司自主創(chuàng)新的GPU+,在兼容CUDA/OpenCL在內(nèi)的編程模型和軟件生態(tài)的基礎(chǔ)上,通過架構(gòu)創(chuàng)新,完美解決了通用性和高效率的雙重難題。大量客戶產(chǎn)品實(shí)測(cè)證明,針對(duì)AI計(jì)算,GPU+相比傳統(tǒng)GPU在性能尤其是能效上有顯著提升。
2022年9月,登臨科技創(chuàng)始人李建文在某會(huì)議上表示,登臨科技首款系列產(chǎn)品基于GPU+的創(chuàng)新AI加速器Goldwasser已在智慧城市、交通、金融、能源、電力、教育、無人駕駛、互聯(lián)網(wǎng)等眾多行業(yè)實(shí)現(xiàn)商業(yè)化落地,目標(biāo)年內(nèi)客戶訂單達(dá)數(shù)萬片,并且已實(shí)現(xiàn)批量量產(chǎn)交付。登臨第二代產(chǎn)品將于明年上半年進(jìn)入市場,其能效比將是第一代產(chǎn)品的2倍。
另外,登臨科技還發(fā)布了完整的翰銘(Hamming)軟件工具鏈,該工具鏈支持國內(nèi)外主流AI框架、操作系統(tǒng)、CPU、容器與虛擬機(jī)、以及推理服務(wù)器,可幫助客戶盡快把算法部署到實(shí)際業(yè)務(wù)上,并幫助云端與數(shù)據(jù)中心的客戶更好地利用硬件資源。
小結(jié)
總結(jié)來看,寒武紀(jì)、昆侖芯的云端AI芯片已經(jīng)有一定量出貨,燧原科技的產(chǎn)品也已經(jīng)智算中心中部署運(yùn)行,天數(shù)智芯表示其天垓100產(chǎn)品累計(jì)已拿下接近2億元的訂單金額,登臨科技的產(chǎn)品也已經(jīng)實(shí)現(xiàn)批量交付。其他各家的產(chǎn)品在研發(fā)和推進(jìn)應(yīng)用方面,都有不同程度的進(jìn)展。整體而言,各家廠商都在積極尋求創(chuàng)新,尋求突破。
-
芯片
+關(guān)注
關(guān)注
454文章
50460瀏覽量
421960 -
AI
+關(guān)注
關(guān)注
87文章
30238瀏覽量
268471 -
人工智能
+關(guān)注
關(guān)注
1791文章
46896瀏覽量
237657
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論