精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

IBM開發新芯片為AI提速:消除片外內存,靈感來自大腦

傳感器專家網 ? 來源:澎湃新聞 ? 作者:澎湃新聞 ? 2023-10-23 15:43 ? 次閱讀

IBM研發的北極點(NorthPole)處理器芯片可避開訪問外部存儲器,提高計算能力,節約能源。

美國加利福尼亞州圣何塞的IBM研究人員開發了一種以大腦為靈感的計算機芯片,這款北極點處理器芯片消除了頻繁訪問外部存儲器的需要,在圖像識別任務中比現有架構更快,能源消耗更少。這表明計算和內存可以大規模集成。相關研究10月19日發表在《科學》雜志。

北極點芯片采用神經推理結構,由簡單計算單元組成的多層陣列通過編程來識別數據中的模式。底層接收數據,例如圖像中的像素;每一個連續的層檢測日益復雜的模式,并將信息傳遞給下一層;頂層輸出結果,例如可以表示圖像含有貓、汽車或其他物體的可能性。

在傳統馮·諾伊曼架構下,計算和存儲分離。傳統計算機芯片可以有效處理計算,但每次計算時仍然需要使用被稱為RAM的外部存儲器。因此不管處理器運行多快、性能多好,每次執行運算時都需要把數據從存儲器搬到處理器中,數據處理完再搬回到存儲器。在以數據為主的AI計算之下,馮·諾伊曼架構的“存儲墻”和“功耗墻”挑戰凸顯。論文合著者、IBM計算機工程師達門德拉·莫達(Dharmendra Modha)表示,他曾估計在這種架構上模擬人類大腦可能需要12個核反應堆的能源輸出。

而北極點芯片使存儲單元在物理上盡可能接近計算單元中的計算元件。北極點芯片由256個計算單元組成,每個計算單元都有內存,通過消除片外內存,將計算與片上內存交織在一起。這些計算單元以一種網絡連接在一起,這種網絡的靈感來自于人類大腦皮層之間的白質連接。

在不使用最先進工藝的情況下,北極點芯片能耗是使用最先進技術的人工智能芯片的1/5。論文作者估計,如果北極點芯片設計采用最先進的制造工藝,其效率將是目前設計的25倍。論文提到,“在ResNet50基準圖像分類網絡上,相對于使用類似12納米技術工藝的GPU, 北極點實現了每瓦FPS(每秒傳輸幀數)的能量度量高25倍,每個晶體管FPS的空間度量高5倍,延遲時間度量低22倍?!?/p>

不過,據《自然》雜志報道,即使是北極點芯片224兆內存對于大型語言模型來說也是不夠的,比如聊天機器人ChatGPT這樣的語言模型,即使在最精簡的版本中也要占用幾千兆的數據。而且該芯片只能運行預先編程的神經網絡,這些神經網絡需要在單獨的機器上提前訓練。但論文作者表示,北極點芯片架構可能在速度關鍵型應用中有用,比如自動駕駛汽車。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    454

    文章

    50460

    瀏覽量

    421971
  • 內存
    +關注

    關注

    8

    文章

    3004

    瀏覽量

    73900
  • AI
    AI
    +關注

    關注

    87

    文章

    30239

    瀏覽量

    268478
收藏 人收藏

    評論

    相關推薦

    AI提速,墨云藏境系列DDR5實測體驗

    自大語言模型ChatGPT問世以來,人工智能(AI)技術迎來了爆發式增長。在被譽為AI應用元年的2024年中,與AI相關的軟、硬件產品不斷創新推出,影響力也正逐漸滲透至各行各業及日常生
    的頭像 發表于 10-30 14:13 ?132次閱讀
    <b class='flag-5'>為</b><b class='flag-5'>AI</b><b class='flag-5'>提速</b>,墨云藏境系列DDR5實測體驗

    IBM推出高性能AI模型Granite 3.0

    在近日舉行的IBM年度TechXchange大會上,IBM正式推出了其最先進的AI模型家族——Granite 3.0。這款旗艦級語言模型代表了IBM
    的頭像 發表于 10-28 17:39 ?408次閱讀

    IBM Cloud將部署英特爾Gaudi 3 AI芯片

    近日,科技巨頭IBM與英特爾宣布了一項重大合作計劃,雙方將共同在IBM Cloud平臺上部署英特爾最新的Gaudi 3 AI芯片,預計該服務將于2025年初正式上線。此次合作標志著兩家
    的頭像 發表于 09-03 15:52 ?358次閱讀

    IBM進入中國市場四十年,攜手共贏新的AI時代

    中國合作伙伴招募負責人羅昕、IBM 中國合作伙伴技術支持負責人徐建光從企業戰略、渠道政策、全棧技術和應用場景等維度,IBM 校友” 們重新介紹了“今天的 IBM”,并分享了新的
    的頭像 發表于 08-16 11:22 ?627次閱讀

    IBM助力圖靈新智算構建全能AI平臺

    和watsonx.governance,以及 IBM 企業級 AI 數字助理軟件 watsonx Assistant 和 AI 文檔理解與分析軟件 Watson Discovery, 構建全能的
    的頭像 發表于 08-02 14:53 ?536次閱讀

    請問如何使用SRAM?

    Hi , 在項目中,我們需要增加SRAM,型號是IS62WVS5128GALL 大小是512kb,請問你們是否支持此IC,能否提供驅動或者demo?
    發表于 06-25 08:01

    來自IBM THINK 2024 的六大啟示

    如何讓AI從試點走向規模應用,真正惠及企業 北京2024年6月19日?/美通社/ -- 匯聚全球5000多位商業、技術領導人,以及IBM行業客戶、合作伙伴的IBM THINK大會,兩周前在美國波士頓
    的頭像 發表于 06-19 22:17 ?356次閱讀

    Rapidus與IBM合作研發小芯片封裝技術

    在半導體行業的新浪潮中,Rapidus Corporation與IBM攜手合作,共同開發芯片(chiplet)封裝的量產技術。此次合作旨在推動高性能半導體封裝技術的創新與發展。
    的頭像 發表于 06-06 09:13 ?396次閱讀

    AI芯片哪里買?

    AI芯片
    芯廣場
    發布于 :2024年05月31日 16:58:19

    IBM向全球企業轉型顧問推出新的AI服務平臺—Consulting Advantage

    為了協助 IBM 咨詢團隊持續客戶交付一致性的高品質、可復制、高效的咨詢顧問服務,日前,IBM 向全球 16萬 IBM 企業轉型顧問推出新的 AI
    的頭像 發表于 04-12 09:25 ?603次閱讀

    開發者手機 AI - 目標識別 demo

    。 NNRt host 實現了NNRt HDI接口功能,通過對接底層AI芯片接口上層應用提供NPU硬件推理的能力。 功能實現 JS從相機數據流獲取一張圖片,調用Native的接口進行目標識別的處理
    發表于 04-11 16:14

    IBM在watsonx上提供開源的Mistral AI模型

    上最新的開源模型,watsonx 提供企業就緒的人工智能開發平臺、數據存儲和治理功能 IBM(紐約證券交易所代碼:IBM)近日宣布,由 Mistral AI 公司
    的頭像 發表于 03-12 19:10 ?1311次閱讀

    如何利用橋式電路消除溫度對電阻應變的影響?

    如何利用橋式電路消除溫度對電阻應變的影響? 橋式電路是一種常見的測量電阻應變的電路結構,可以通過電壓差的方式來準確測量電阻應變的應變量。然而,在實際應用中,由于溫度的影響,電阻應
    的頭像 發表于 02-04 17:32 ?1971次閱讀

    IBM的新型模擬內存芯片能否證明AI操作的性能和能源效率呢?

    IBM 的新型模擬內存芯片證明了 AI 操作的性能和能源效率都是可能的。
    的頭像 發表于 12-18 10:09 ?677次閱讀

    如何消除內存安全漏洞

    “MSL 可以消除內存安全漏洞。因此,過渡到 MSL 可能會大大降低投資于旨在減少這些漏洞或將其影響降至最低的活動的必要性。
    發表于 12-12 10:29 ?715次閱讀
    如何<b class='flag-5'>消除</b><b class='flag-5'>內存</b>安全漏洞