精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

贏麻了!英偉達發布史上最強“巨型GPU”,黃仁勛:CPU擴張時代結束了

Hobby觀察 ? 來源:電子發燒友網 ? 作者:梁浩斌 ? 2023-05-31 09:08 ? 次閱讀

電子發燒友網報道(文/梁浩斌)今年英偉達可謂風生水起,過去五個月市值增長近三倍,自上周四公布今年一季度財報以來,截至5月30日股價也飆漲27%,市值9632億美元,有望進入萬億美元俱樂部。作為在這一輪生成式AI浪潮中的核心算力硬件供應商,已經“贏麻了”的英偉達并未有因此停下腳步,而是趁熱打鐵繼續推出驚人的算力硬件。

wKgaomR2nkKAC4AGAAYE7vCm_W4996.jpg
圖源:英偉達中國


英偉達CEO黃仁勛在周一的臺北Computex展上帶來了2小時的激情演講,發布上推出了GH200 Grace Hopper超級芯片,以及將多達256塊GH200超級芯片整合到一起的DGX GH200“巨型GPU”,同時還展示了一系列AI相關的應用和產品

黃仁勛表示:CPU擴張的時代已經結束了。

新計算時代:GPU買得越多,省得越多!

在這場2小時的演講開場,黃仁勛就提出了一個“暴論”,他表示“CPU擴張的時代已經結束了”。

加速計算和AI重塑計算機行業的當下,從需要持續提升算力的數據中心可以看到,CPU的需求越來越少,而GPU的需求則不斷增長。黃仁勛認為,如今的計算機是指數據中心、是指云服務,與此同時可以為未來“計算機”編寫程序的程序員,如今將面臨行業的變革。

“我們已經到達生成式AI的爆點,從此世界的每一個角落,都會有計算需求。”在這樣的計算需求背景下,計算的性價比也非常重要。黃仁勛舉了兩個例子證明GPU比CPU在AI計算時代更有優勢:

在1000萬美元的成本下,可以用于建設一個有960顆CPU的數據中心,其中可以處理1X LLM(大語言模型)的數據量,同時需要消耗11GWh的能耗;同樣成本下,如果用于建設一個有48顆GPU的數據中心,不僅可以處理的LLM數據量是同成本CPU數據中心44倍,在功耗方面還能大幅降低至3.2GWh。

所以,黃仁勛不禁喊出了“The more you buy,The more you save”的口號,買GPU越多,你省下的錢也就越多。

強到離譜的GH200和DGX GH200

這次發布會上最重磅的產品無疑是GH200 Grace Hopper超級芯片,在發布會上,黃仁勛也公布了該款芯片的細節。GH200是基于NVIDIA NVLink-C2C互連技術,將Arm架構的NVIDIA Grace CPU和Hopper架構的 GPU實現互聯整合,最終實現高達900GB/s的總帶寬,這相比傳統的PCIe 5.0通道帶寬要高出7倍,可以滿足需求最嚴苛的AI 和HPC應用。

去年三月,英偉達在GTC大會上發布了基于Arm架構的Grace CPU,這款CPU專為計算加速平臺設計,擁有多達72個Armv9 CPU核心,緩存容量高達198MB,支持LPDDR5X ECC內存,帶寬高達1TB/s,并支持NVLink-C2C和PCIe 5.0兩種互連協議。

同樣是在去年的GTC大會上,英偉達發布了基于Hopper架構的全新H100 GPU,截至目前,H100依然是英偉達用于AI加速、HPC和數據分析等處理的最強GPU。

H100采用臺積電4nm定制工藝,擁有多達800億個晶體管,集成了18432個CUDA核心、576個Tenor核心、60MB二級緩存,并支持6144-bit位寬的HBM3/2e高帶寬內存。

而GH200 Grace Hopper,就是將72核的Grace CPU和當今世上最強的GPU H100,加上96GB的HBM3顯存、512GB的LPDDR5X內存封裝在一起,集成到一片“超級芯片”上。

wKgZomR2nk6ABzyrAAnYC8xJtq4959.jpg
圖源:英偉達中國


黃仁勛將GH200 Grace Hopper形容為“這是一臺計算機,而不是芯片”。同時他透露,GH200 Grace Hopper目前已經全面投產。

如果GH200 Grace Hopper還不能滿足你的需求,英偉達還提供了一個由256個GH200 Grace Hopper組成的超級計算機系統——DGX GH200,而上一代的系統在不影響性能的前提下只能通過NVLink將8個GPU整合成一個系統。

那么DGX GH200是如何做到將256個GH200 Grace Hopper連接成一個系統?GH200 Grace Hopper和NVLink4.0、NVLink Switch System(交換機系統)是組建DGX GH200的重點。NVLink交換機系統形成了一個兩級、無阻塞、胖樹NVLink結構,結合新的NVLink 4.0和第三代NV SWitch,英偉達可以用一個前所未有的高帶寬水平來構建大規模NVLink交換機系統。通過計算節點外的交換機模塊,將最高256個計算節點,也就是GPU連接為一個整體。

最終這個擁有256個GH200 Grace Hopper超級芯片的DGX GH200超級計算機能夠提供高達能夠提供1 Exaflop(百億億次)級別的性能、并具有144TB的共享內存,內容容量幾乎是上一代的500倍。

黃仁勛稱DGX GH200是“巨型GPU”,并預計DGX GH200將在今年年底開始供貨并投入使用,Google Cloud、Meta與微軟將會是首批能夠使用DGX GH200的公司

除此之外,英偉達還在使用DGX GH200打造一個更大規模的超級計算機,這款被稱為NVIDIA Helios的超級計算機將配備4個DGX GH200,通過英偉達的Quantum-2 InfiniBand交換機進行互連。那么NVIDIA Helios將成為一個由1024個GH200 Grace Hopper超級芯片構成的巨型AI計算系統,這套系統也將會在今年年底啟用。

AI應用遍地開花

發布會上,黃仁勛還宣布推出一種名為Avatar Cloud Engine(ACE)的AI模型代工服務,這種模型主要應用在游戲領域,可以為游戲開發人員提供訓練模型,通過簡單的操作定制想要的游戲AI模型。

wKgaomR2nluATyrWAAFrbWnAHyU904.jpg
圖源:英偉達中國


在演示中,游戲玩家可以用自己的聲音與NPC角色進行對話,由生成式AI加持的NPC,可以根據玩家的語音實時生成不同的回答,增強游戲的沉浸體驗。

在內容方面,英偉達目前正在與全球最大的廣告集團WPP合作,開發一款利用NVIDIA Omniverse和AI的內容引擎,以更高效地幫助創意團隊制作高質量商業內容,并針對客戶的品牌產出不同的針對性內容,這或許是AI顛覆廣告行業的一個嘗試。

除此之外,在工業領域,英偉達也正在用AI來幫助工業生產提高效率,比如用于模擬和測試機器人的英偉達Isaac Sim;用于自動光學檢測的英偉達Metropolis視覺AI框架;用于3D設計協作的英偉達Omniverse等。

黃仁勛表示,目前富士康工業互聯網、宜鼎國際、和碩、廣達、緯創等制造業巨頭都在使用英偉達的參考工作流程,比如構建數字孿生、模擬協作機器人、檢測自動化等。

小結:

今年AIGC發展速度超出所有人想象,近期甚至有調研機構在一個半月之內將今年AI服務器出貨量增長預期從15.4%提升至38.4%。毫無疑問,黃仁勛和他的英偉達是在這新一輪AI革命中最大的贏家。

截至5月30日18時,英偉達盤前漲近4%,市值突破萬億美元,英偉達成為全球第一家市值破萬億美元的芯片公司。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    10829

    瀏覽量

    211182
  • 英偉達
    +關注

    關注

    22

    文章

    3749

    瀏覽量

    90853
收藏 人收藏

    評論

    相關推薦

    減持英偉股票

    在全球科技巨頭市值競爭激烈的背景下,英偉CEO近日做出了引人注目的投資決策。隨著微軟、蘋果交替坐上全球股王的位置,且均創下了歷史收盤
    的頭像 發表于 06-19 11:25 ?589次閱讀

    英偉:堅守法規服務中國,展望人形機器人未來

    在科技飛速發展的今天,英偉作為圖形處理器(GPU)領域的佼佼者,其一舉一動都牽動著全球科技界的目光。近日,英偉CEO
    的頭像 發表于 06-17 14:52 ?516次閱讀

    英偉CEO展望AI與機器人新時代

    在COMPUTEX 2024大會上,英偉CEO發表激動人心的演講,他看好機器人即將跨入
    的頭像 發表于 06-03 11:30 ?721次閱讀

    英偉CEO薪酬大漲60%,高達2.47億元

    英偉在5月15日發布的最新報告顯示,在2024財年的薪酬高達2.47億元,較前一財年的
    的頭像 發表于 05-16 15:08 ?361次閱讀

    工資多少錢?薪酬大漲到3420萬美元

    工資多少錢?薪酬大漲到3420萬美元 作為人工智能世代最賺錢的
    的頭像 發表于 05-15 16:59 ?606次閱讀

    英偉:應對最壞情況,與臺積電緊密合作

    當日,第二屆NVIDIA GPU技術會議正式啟動。在此次國際記者會上,首先簡要介紹公司的供應鏈和產品組成情況。他指出,AI(人工智能
    的頭像 發表于 03-21 09:37 ?464次閱讀

    回應中國市場問題

    英偉CEO近日在接受媒體采訪時,深入探討了公司在全球數據中心市場的戰略布局以及最新研發的AI芯片Blackwell的相關情況。
    的頭像 發表于 03-20 14:47 ?730次閱讀

    闡述英偉與臺積電的深度合作

    18日當天的英偉GTC全球圖形計算大會上,公布他們新研發的人工智能(AI)芯片Blac
    的頭像 發表于 03-20 09:39 ?833次閱讀

    英偉GTC大會將開幕 將帶你《見證AI的變革時刻》

    英偉GTC大會將開幕 將帶你《見證AI的變革時刻》 全球都在關注的英偉
    的頭像 發表于 03-18 18:25 ?1317次閱讀

    對話張忠謀

    來源:EETOP,謝謝 編輯:感知芯視界 Link 參加完中國大陸的年會之后,英偉(NVIDIA)CEO開始到訪臺灣地區。
    的頭像 發表于 01-29 09:14 ?691次閱讀

    英偉創始人榮獲“2023年最佳CEO”獎

    英偉接任以來,公司股價漲幅巨大,2023年全年股東回報率達到驚人的172.9%;且高達98%的CEO評價指向
    的頭像 發表于 01-08 11:17 ?590次閱讀

    堅定喊話:英偉仍為中國開發特供版芯片

    表示,中國市場約占英偉銷售額的20%,該公司將繼續“完美”遵守貿易法規,并向中國市場提供符合美國政府最新規定的新產品。
    的頭像 發表于 12-07 17:25 ?944次閱讀

    英偉將開發符合美國對華出口規定的新芯片

    在新加坡舉行的新聞發布會上表示:“英偉一直同美國政府密切合作,生產符合該規定的產品。我們
    的頭像 發表于 12-06 14:41 ?676次閱讀

    英偉計劃在日本設立研發中心

    12月5日,在會見西村康稔時表示:“今后,將在日本設立將重點放在開發ai所需gpu的人工智能上的研發中心。”
    的頭像 發表于 12-06 13:52 ?681次閱讀

    英偉:AI將在5年內超越人類!

    美國對華半導體出口的限制,也進一步刺激中國努力發展自主半導體產業的決心。也還表示,中國大陸目前已有數十公司正在開發可與英偉達產品競爭
    的頭像 發表于 12-05 09:38 ?578次閱讀