精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大算力芯片里的HBM,你了解多少?

貞光科技 ? 2023-12-05 16:14 ? 次閱讀

最近,隨著人工智能行業的高速崛起,大算力芯片業成為半導體行業為數不多的熱門領域

HBM (高寬帶內存:High-bandwidth memory)作為大算力芯片里不可或缺的組成部分,也因此走入了行業內外人士的視野

wKgaomVu29qAc42KAAT5uH-zMbE687.jpg

和傳統的GDDR相比,HBM不僅僅提供了更大的位數寬度,而且通過TSV和Interposer的連接方式,大幅降低了數據通訊上的能量損耗。這對于大算力芯片的性能效率提升是起到決定性作用的

如果GPU通過PCB板和傳統GDDR內存交換數據,那在高速運算時其大多數的能耗都會消耗在數據通訊本身而非計算上。這對于能耗成本高企的AI模型訓練來說是幾乎不可接受的

而采用HBM以后,通訊相關的能耗可以成倍降低,甚至有可能把能耗占比降到20%,甚至更低。所以目前AI相關的算力芯片都幾乎采用了HBM的技術方案。HBM的市場也隨之爆發(見下圖)

wKgZomVu29mAMxEIAAVMovWcDV8129.jpg

我趁這個熱度,也收集了不少資料好好學習了一下HBM相關的知識

HBM到目前為止基本發展了四代:

第一代和第二代的技術規范標準被定義在了JEDEC的JESD235里,后更新為JESD235A。HBM2相對于HBM1的區別是通道模式由原來的Legacy變成了Pseudo Channel:用兩個虛擬的64位通道等效成一個128位通道

后來在JESD235C和JESD235D里定義了HBM2E,較大幅度地提升了數據通訊能力等參數。行業里習慣把這個稱為第三代HBM

而JESD238開始定義的HBM3則被順延地稱為了第四代HBM。需要注意的是,這次JEDEC標準文檔的編號也從235改成了238

wKgaomVu29mAWxFzAAFhEZSBp8I183.jpg

和之前的版本相比,HBM3的最大變化是每個Stack的通道(Channel)數量從2個增加到了4個,從而使得數據容量翻倍

后來在JEDEC的標準上,Micron、Hynix等制造商也分別推出了自己的增強型版本至于第五代的HBM4,目前JEDEC的標準還沒有正式推出。我在網上也只能找到一些簡單的指標數據作為參考

為了整理各個版本HBM的具體指標參數和相關信息,我不僅下載了JEDEC的各個版本文檔,也參考不少其它的資料,然后收集整理了下面這個表格供大家參考歡迎大家幫忙確認,如果發現任何問題,請和我溝通或者在公眾號給我留言,謝謝了

wKgaomVu29qAFf0aAAft7E7AVtY562.jpg

注:轉載至 半導體綜研 文中觀點僅供分享交流,不代表貞光科技立場,如涉及版權等問題,請您告知,我們將及時處理!

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    454

    文章

    50460

    瀏覽量

    421965
  • 半導體
    +關注

    關注

    334

    文章

    27063

    瀏覽量

    216484
  • HBM
    HBM
    +關注

    關注

    0

    文章

    374

    瀏覽量

    14708
  • 算力芯片
    +關注

    關注

    0

    文章

    44

    瀏覽量

    4504
收藏 人收藏

    評論

    相關推薦

    需求催生存風口,HBM競爭從先進封裝開始

    無疑是今年最火熱的高端存儲產品。 ? 在AI芯片需求不減競爭加劇的背景下,全球最大的兩家存儲器芯片制造商三星和SK海力士都在積極擴大HBM產量搶占AI芯片
    的頭像 發表于 12-03 08:34 ?2345次閱讀

    AI時代核心存HBM(上)

    HBM 等,他們雖然均使用相同的 DRAM 存儲單 元(DRAM Die),但其組成架構功能不同,導致對應的性能不同。手機、汽車、消費類等 對低功耗要求高主要使用 LPDDR,服務器和 PC 端等有高傳輸、高密度要求則使用 DDR,圖 形處理及高
    的頭像 發表于 11-16 10:30 ?383次閱讀
    AI時代核心存<b class='flag-5'>力</b><b class='flag-5'>HBM</b>(上)

    基礎篇:從零開始了解

    即計算能力(Computing Power),狹義上指對數字問題的運算能力,而廣義上指對輸入信息處理后實現結果輸出的一種能力。雖然處理的內容不同,但處理過程的能力都可抽象為。比
    的頭像 發表于 11-15 14:22 ?367次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎篇:從零開始<b class='flag-5'>了解</b><b class='flag-5'>算</b><b class='flag-5'>力</b>

    億鑄科技熊大鵬探討AI大芯片的挑戰與解決策略

    在SEMiBAY2024《HBM與存儲器技術與應用論壇》上,億鑄科技的創始人、董事長兼CEO熊大鵬博士發表了題為《超越極限:大芯片的技術挑戰與解決之道》的演講,深入剖析了AI大模型
    的頭像 發表于 10-25 11:52 ?333次閱讀

    芯片面臨的技術挑戰和解決策略

    在灣芯展SEMiBAY2024《HBM與存儲器技術與應用論壇》上,億鑄科技創始人、董事長兼CEO熊大鵬發表了題為《超越極限:大芯片面臨的技術挑戰和解決策略》的演講。
    的頭像 發表于 10-23 14:50 ?326次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--了解芯片CPU

    Computing)拓撲是一種特殊的 CPU設計,其核心思想是將在儲器和運算器緊密地結合在一起,使得計算操作可以在存儲器中進行,從而大幅提高數據處理效率和性能。 通過章節學習,可以看到芯片從組成設計上來說知識點還是蠻多的,
    發表于 10-20 12:03

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解
    發表于 10-15 22:08

    億鑄科技談大芯片面臨的技術挑戰和解決策略

    隨著人工智能技術的飛速發展,已成為推動產業變革的關鍵力量,但大模型的快速發展,參數的爆發,對于需求也提出了更高的要求,帶來了全新的挑戰。那大
    的頭像 發表于 08-07 10:03 ?696次閱讀

    力系列基礎篇——與計算機性能:解鎖超能力的神秘力量!

    在《力系列基礎篇——101:從零開始了解》中,相信各位粉絲初步
    的頭像 發表于 07-11 08:04 ?104次閱讀
    <b class='flag-5'>算</b>力系列基礎篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>與計算機性能:解鎖超能力的神秘力量!

    揭秘芯片:為何它如此關鍵?

    在數字化時代,芯片作為電子設備的核心組件,其性能直接關系到設備的運行速度和處理能力。而芯片,即其計算能力,更是衡量芯片性能的重要指標。
    的頭像 發表于 05-09 08:27 ?885次閱讀
    揭秘<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>:為何它如此關鍵?

    力系列基礎篇——101:從零開始了解

    相信大家已經感受到,我們正處在一個人工智能時代。如果要問在人工智能時代最重要的是什么?那必須是:
    的頭像 發表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始<b class='flag-5'>了解</b><b class='flag-5'>算</b><b class='flag-5'>力</b>

    芯片:未來科技的加速器?

    在數字化時代,芯片作為電子設備的核心組件,其性能直接關系到設備的運行速度和處理能力。而芯片,即其計算能力,更是衡量芯片性能的重要指標。
    的頭像 發表于 02-27 09:42 ?878次閱讀
    高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>:未來科技的加速器?

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發布于 :2024年01月25日 14:54:52

    大模型時代必備存儲之HBM進入汽車領域

    大模型時代AI芯片必備HBM內存已是業內共識,存儲帶寬也成為AI芯片僅次于的第二關健指標,甚至某些場合超越
    發表于 12-12 10:38 ?809次閱讀
    大模型時代必備存儲之<b class='flag-5'>HBM</b>進入汽車領域

    淺談為AI大而生的存-體芯片

    大模型爆火之后,存一體獲得了更多的關注與機會,其原因之一是因為存一體芯片的裸相比傳統架構的AI
    發表于 12-06 15:00 ?370次閱讀
    淺談為AI大<b class='flag-5'>算</b><b class='flag-5'>力</b>而生的存<b class='flag-5'>算</b>-體<b class='flag-5'>芯片</b>