精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AIGC需求大爆發,英偉達算力芯片已漲價近四成

Felix分析 ? 來源:電子發燒友網 ? 作者:吳子鵬 ? 2023-05-16 01:08 ? 次閱讀

電子發燒友網報道(文/吳子鵬)日前,有代理商透露,英偉達的A100價格從2022年12月份開始上漲,截至2023年4月上半月,5個月價格累計漲幅達到37.5%;在中國市場,A800價格從2022年12月份開始上漲,截至2023年4月上半月,5個月價格累計漲幅達20.0%。

目前,對于所有AI大模型而言,無論是推理還是訓練,基本都是依賴英偉達的GPU芯片。其中,英偉達A100芯片是目前的主流,在大模型訓練市場的市占比接近100%。

英偉達算力芯片量價齊升

根據此前的公開報道,OpenAI的GPT-3大模型參數規模已經達到1750億,因此在訓練過程中需要做大量的數據并行計算,這就是為什么AI 大模型都要哄搶GPGPU。

所謂的GPGPU又名通用算力GPU,能夠幫助CPU進行非圖形相關程序的運算——復雜的數值計算、物理模擬和數據分析等任務。GPGPU在進行相關運算時有幾大突出的優勢,高效并行性、高密集運算、超長流水線等。

那么,為什么只有英偉達有AI淘金浪潮“賣鏟人”的稱號呢?

主要原因有兩點,其一是英偉達芯片的算力更高,比如英偉達的A100,這顆采用Ampere架構和7nm制程的芯片里晶體管數量達542億顆,單芯片可提供的FP32峰值算力為19.5TFLOPS。如果是英偉達的H100 SXM,FP32峰值算力為67TFLOPS,提升明顯。并且,無論是A100還是H100都能夠提供包括FP64、TF32、FP32、FP16 和INT8在內的所有算力精度。

在高算力方面,我們都知道,先進芯片和先進算力之間并不是畫等號的,在算力集群里,傳輸也是極為重要的。為了保障傳輸,英偉達給H100配備了可提供 900 GB/s GPU 間互連的第四代NVlink、可跨節點加速每個GPU通信的NVLINK Switch系統、PCIe 5.0,以保障高效的算力集群。即便是目前主流的A100,英偉達也是為其配備了2TB/s的內存帶寬,以及NVIDIA NVLink、NVIDIA NVSwitch、PCIe 4.0,用以保障傳出。

其二是生態的優勢。英偉達長期占據GPGPU的頭把交椅,并在此過程中持續完善自己的生態。在算力利用的過程中,無論是學習、運算還是開發,往往都需要一個統一的開發架構,優秀的架構才能盡可能釋放GPGPU的算力。在這方面,公開數據顯示,英偉達的CUDA占據了全球大概80%以上的市場。其他公司做的基本都是對標CUDA,比如OpenAI的開發架構Triton,業界往往認為其是簡化版的CUDA。目前,市場上很多芯片只能從理論算力上去對標英偉達,宣稱能夠達到英偉達某款芯片的幾成,然而在實際應用中由于軟件生態的缺失,是要進一步打折扣的。

算力和生態的優勢讓行業界對英偉達的A100和A800趨之若鶩。有代理商爆料稱,目前英偉達主流算力芯片不僅價格走高,同時交貨周期也被拉長,之前拿貨周期大約為一個月,現在基本都需要三個月或更長。甚至,部分新訂單“可能要到12月才能交付”。

產業苦英偉達久矣

目前,英偉達的GPGPU可以說就是AI大模型部署算力的標準。有專家曾表示,做好AI大模型的算力最低門檻是1萬枚英偉達A100芯片。TrendForce研究則顯示,以A100的算力為基礎,GPT-3.5大模型需要高達2萬枚GPU,未來商業化后可能需要超過3萬枚。

業界還預估,國內大概只有3萬塊的英偉達A100芯片存量,其余用于AI大模型的都是新購進的A800特供版。因此,目前國內部分公司已經開始在內部做出限制,除AI大模型相關業務外,其余業務不允許使用A100或者A800提供的算力。

業界一邊在盡力去追求英偉達的高端算力芯片,同時對于價格不斷走高,且供貨周期持續延長的英偉達芯片也是怨聲載道。

因此,目前行業內不斷有聲音出現,要替代英偉達的相關芯片。

比如谷歌第二代TPU,在一些數據吞吐測試中,這款芯片已經能夠和英偉達GPGPU相當。另外有分析師指出,由于一些公司買不到英偉達的高端GPGPU,因此選擇將模型做小,然后選擇AMD公司的CPU或者Cerebras的WSE來進行部署,進而促進了垂直領域和AI大模型的結合。

在國內,也已經有一些公司在推出方案,嘗試在AI大模型領域取代英偉達的芯片。

后記

根據相關統計數據,英偉達A100芯片已經貢獻目前全球數據中心和算力中心業務的50%,成為該公司的搖錢樹。在國內市場,幾天前的報道指出,A800芯片在國內售價被炒到超過10萬元/顆,而且是低配的版本。然而,AIGC時代里,算力就是王道,因此算力芯片便物以稀為貴。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 英偉達
    +關注

    關注

    22

    文章

    3749

    瀏覽量

    90853
  • AIGC
    +關注

    關注

    1

    文章

    357

    瀏覽量

    1511
收藏 人收藏

    評論

    相關推薦

    大模型時代的需求

    現在AI進入大模型時代,各企業都爭相部署大模型,但如何保證大模型的,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發表于 08-20 09:04

    成都匯陽投資關于華為新版芯片或挑戰英偉,國產值得關注?

    【華為將推出新款AI 芯片,瞄準英偉中國市場份額】 近年來AI 產業蓬勃發展,資本市場也出現了狂歡,英偉(NVDA.US)、AMD等科技
    的頭像 發表于 08-19 11:44 ?804次閱讀

    英偉:Hopper芯片需求強勁 英偉發言人談生產增長

    據外媒報道,英偉發言人透露Hopper芯片需求強勁,而且Blackwell 芯片的廣泛采樣也已經開啟。而對于產量問題;則表示有望在下半年實
    的頭像 發表于 08-03 17:25 ?2658次閱讀

    英偉帶領芯片股飆升 英偉大漲4.76%

    1.08%,道指漲0.32%。 AI浪潮之下,業界預期正不斷加強,在AI需求的邊際拉動下、疊加消費電子復蘇,新一輪終端AI上新,相關行業正迎來具備較強持續性的上行周期;英偉
    的頭像 發表于 07-23 16:26 ?310次閱讀

    英偉AI芯片需求激增,封測廠訂單量或翻倍

    在全球半導體行業持續演進的背景下,英偉(NVIDIA)的AI芯片需求正迎來前所未有的增長。據悉,英偉
    的頭像 發表于 06-24 18:05 ?1592次閱讀

    鴻海與英偉攜手打造超級中心

    在全球AI技術飛速發展的浪潮中,鴻海科技集團再次展現出其作為行業巨頭的領導和前瞻性。近日,在臺北電腦展上,鴻海科技集團宣布將與英偉展開深度合作,共同在高雄建設一座先進的
    的頭像 發表于 06-05 11:21 ?1034次閱讀

    英偉Blackwell芯片投產,預告未來AI芯片發展

    英偉創始人兼CEO黃仁勛近日宣布,公司旗下的Blackwell芯片正式投入生產。這款芯片英偉
    的頭像 發表于 06-04 09:23 ?1943次閱讀

    商湯科技采購40000顆英偉芯片,縮小中美差距

    徐冰認為,國產芯片崛起以及商品化帶來的投資價值,使中美差距有望逐步縮小。只要中國持續在
    的頭像 發表于 05-28 11:25 ?1066次閱讀

    英偉Jetson系列外,AI邊緣計算盒子還能搭載哪些芯片

    電子發燒友網報道(文/李彎彎)過去幾年,隨著英偉推出Jetson系列開始,搭載各種AI芯片的邊緣設備相繼問世。因為外觀形似盒子,具備算
    的頭像 發表于 05-06 09:21 ?3828次閱讀

    英偉H200怎么樣

    英偉H200的非常強大。作為新一代AI芯片,H200在性能上有了顯著的提升,能夠處理復雜的AI任務和大數據分析。然而,具體的
    的頭像 發表于 03-07 16:15 ?1991次閱讀

    “網紅”芯片Groq讓英偉蒸發5600億

    鑒于ChatGPT的廣泛應用,引發了AI需求的迅猛增長,使得英偉的AI芯片供不應求,出現大
    的頭像 發表于 02-27 15:10 ?1124次閱讀
    “網紅”<b class='flag-5'>芯片</b>Groq讓<b class='flag-5'>英偉</b><b class='flag-5'>達</b>蒸發5600億

    AI引爆英偉業績 美國股市因英偉季績強勁上漲

    AI引爆英偉業績 美國股市英偉季績強勁上漲 AI的持續火爆引發一場全球資本市場狂歡,而且隨著Sora、Gemini1.5等大模型面世;大模型的加速迭代都對
    的頭像 發表于 02-23 19:37 ?1286次閱讀

    2024年繼續看好英偉的兩個理由

    2023年是英偉業務爆發式增長的一年 2023年可以說是英偉達成立30年以來最好的一年。由于大語言模型帶動的訓練和推理算
    的頭像 發表于 01-18 11:55 ?279次閱讀
    2024年繼續看好<b class='flag-5'>英偉</b><b class='flag-5'>達</b>的兩個理由

    網絡面臨三大挑戰

    2024年,以AIGC為代表的人工智能技術將進一步激發需求網絡、智
    的頭像 發表于 01-12 10:39 ?1028次閱讀

    衛星通信序幕拉開,AI浪潮澎湃

    AI浪潮催生要求,基礎設施需求持續提升。AIGC帶來的超大
    發表于 01-03 10:22 ?355次閱讀
    衛星通信序幕拉開,AI<b class='flag-5'>算</b><b class='flag-5'>力</b>浪潮澎湃