精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

神經擬態計算是如何降耗的

要長高 ? 2024-06-07 15:35 ? 次閱讀

自計算機問世以來,運算效能與能耗消耗兩大議題始終困擾著計算產業。在人工智能崛起的背景下,全球各地科研機構及相關公司積極探索提高處理器算力的新方法,神經擬態處理器即是一種創新嘗試。

如何模仿大腦思維?

神經擬態計算,即模擬和探索人腦神經網絡及其運作規律的領域,我們將之稱為類腦計算或神經形態計算。數十年來,科學家們致力于復刻生物神經元的多功能運算模式,以期研發出高效能且低功耗的機器學習系統。

歷經多年探索,業界已形成三種神經擬態處理器的實現路徑。一為數字CMOS型,通過邏輯門電路模擬生物單元行為;二為數模混合的CMOS型,借助亞閾值模擬電路呈現生物神經元特性;前兩者均基于硅基晶體管。第三種則是研發新型器件,如憶阻器、相變存儲器、鐵電器件、磁隧道結、離子柵控晶體管等,并采用非硅基材料。

然而,目前大部分研究尚未實現商業化生產。英特爾作為眾多研究機構中的佼佼者,選擇了第一種實現方式——用晶體管模擬人類神經元功能。其中,如何讓處理器達到類似人腦的節能效果,便是他們的重要研究課題。

德國海德堡大學物理學家卡爾海因茨·邁耶(Karlheinz Meier)指出,相比計算機,人腦具有三大優勢:低能耗,僅需約20瓦特的能量。

今年四月,英特爾推出神經擬態系統Hala Point。據稱,該系統在處理AI推理負載和優化問題方面,速度較常規CPUGPU架構快50倍,而能耗卻降低了100倍。近日,英特爾中國研究院院長宋繼強向中國電子報記者詳解了該系統模擬人腦節能的實現原理。他首先解釋了市場上常見芯片系統的頻率特征:通常提及的CPU主頻,如5GHz,代表同步時鐘的頻率,即芯片內所有邏輯門、存儲均以此頻率運行,或在此基礎上進行降級。例如,總線頻率可能低于CPU主頻,I/O接口頻率更低,但總體來看,同一芯片內所有組件均受同步時鐘驅動,從而實現同時工作。因此,各部件能耗也同步進行。

宋繼強表示,英特爾的神經擬態計算無需同步時鐘,取代之的是“時間步”概念——每當任務結束,“神經元”便依據預定順序逐步推進。每個時間步里,信號均由一個神經元傳至下一個,以此方式進行傳播和擴散。盡管神經擬態計算要求系統在時間步級別保持同步,但并非所有神經元需在所有工作序列中完全同步,允許有些任務快速處理,有些則緩慢處理。這與人類大腦類似,部分神經元負責處理嗅覺信息,同時另一部分則處理視覺信息。因此,在神經擬態計算系統中,有任務執行的路徑會消耗電力,其余路徑則處于休眠狀態。即使是大規模的神經擬態集群,其運行時神經元也僅進行少量并行運算。

該計算系統另一節能策略在于其存算一體的結構。當前市場上計算系統的能源消耗主要集中于計算和數據傳輸兩個方面,而神經擬態計算系統通過實現存算一體,成功規避了傳統核內外架構在處理大量數據傳輸時產生的能量損失。

節能與否,取決于具體情境

低能耗被視為神經擬態處理器的天然架構優勢。早在2020年,宋繼強就曾公開宣稱:神經擬態計算在算法及芯片設計上,可以千分之一以內的功耗完成同等效果的模型訓練。浙江大學的唐華錦教授亦認同神經擬態芯片為環保型芯片,因其體積小、功耗低,符合生物進化的根本優勢。

然而,根據Hala Point最新實踐成果,該架構處理器的節能效果與其使用情境密切相關。宋繼強指出,現階段發現該系統在處理物流調度數據中心的大規模優化任務時能效表現最佳,相較于CPU+GPU組合方案節能高達3000倍。

“但這并非指數據中心所有工作負載,僅針對個別項目。”他補充道,“我們正努力尋找該系統適用的場景,若賦予其不適宜的任務,能耗或高于原有處理系統。”

至于HalaPoint能否解決當前大模型訓練中的高能耗問題,宋繼強回應稱:該系統設計初衷并非專為大模型服務,故不適合大規模數據輸入。

ResNet50網絡(殘差網絡的一種)是驗證Hala Point節能效果的典型場景之一。在此類應用中,經優化的Hala Point在達到相同性能前提下,能耗可降至原有方案的百分之一以下。對于某些特定深度的神經網絡,如視覺識別類應用,通過在脈沖神經網絡上進行適當調整,結合硬件層面的適配,同樣有助于降低能耗。

總的來說,該系統在稀疏性局部并發型應用中表現更為出色。目前,市面上大部分神經擬態處理器主要應用于機器人無人機等領域。宋繼強透露,HalaPoint約有一半的應用涉及機器人、操控、多模態視覺等方面。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19165

    瀏覽量

    229130
  • 英特爾
    +關注

    關注

    60

    文章

    9886

    瀏覽量

    171525
  • 神經
    +關注

    關注

    0

    文章

    45

    瀏覽量

    12514
收藏 人收藏

    評論

    相關推薦

    卷積神經網絡的基本原理與算法

    ),是深度學習的代表算法之一。 一、基本原理 卷積運算 卷積運算是卷積神經網絡的核心,用于提取圖像中的局部特征。 定義卷積核:卷積核是一個小的矩陣,用于在輸入圖像上滑動,提取局部特征。 滑動窗口:將卷積核在輸入圖像上滑動,每次滑動一個像素點。
    的頭像 發表于 11-15 14:47 ?250次閱讀

    淺析醫院節能降耗的意義和應采取的措施

    摘要:能源是每一個國家發展過程中的必然需求,也是提高人們生活質量的一個主要的資本,如果能源大量的消耗,就會影響國家的發展以及社會的進步。所以本次文章的研究,也是以醫院內部的節能降耗工作開展情況進行
    的頭像 發表于 11-13 13:23 ?94次閱讀
    淺析醫院節能<b class='flag-5'>降耗</b>的意義和應采取的措施

    醫院節能降耗的意義和應采取的對策措施

    ,也是以醫院內部的節能降耗工作開展情況進行深入的分析,力求能夠找到恰當有效的實施策略,解決其中存在問題的基礎上,提高醫院內部能源降耗的有效性,以此實現醫院節能工作開展,為我國醫療機構的發展進步做出貢獻。 關鍵詞:醫院;節能降耗
    的頭像 發表于 11-11 14:53 ?138次閱讀
    醫院節能<b class='flag-5'>降耗</b>的意義和應采取的對策措施

    醫院節能降耗意義淺析與對策措施探索

    安科瑞魯一揚15821697760 摘要:能源是國家發展與人民生活質量提升的關鍵要素,過度消耗會阻礙國家與社會進步。本文圍繞醫院節能降耗工作展開深入剖析,旨在探尋有效實施策略,解決現存問題,增強醫院
    的頭像 發表于 11-06 13:24 ?75次閱讀
    醫院節能<b class='flag-5'>降耗</b>意義淺析與對策措施探索

    LMV7219電特性表里面的失調電壓和內部滯環的計算是帶符號計算嗎?

    您好,LMV7219電特性表里面的失調電壓和內部滯環的計算是帶符號計算嗎?按照下圖電特性表(4)的定義:內部滯環的典型值為3.5mV-(-4mV)=7.5mV,而失調電壓等于(3.5mV+(-4mV))/ 2=0.25mV ?
    發表于 07-31 06:41

    探討水電節能降耗監測平臺的應用價值

    水電 節能降耗監測平臺 在現代社會中具有重要的應用價值,對促進可持續發展和實現節能減排目標起著至關重要的作用。以下古河云科技將詳細探討水電節能降耗監測平臺的應用價值,并從多個方面分析其對各行業和領域
    的頭像 發表于 07-11 14:11 ?217次閱讀
    探討水電節能<b class='flag-5'>降耗</b>監測平臺的應用價值

    簡述遞歸神經網絡的計算過程

    、時間序列預測等領域有著廣泛的應用。本文將詳細介紹RNN的計算過程。 基本概念 1.1 神經網絡 神經網絡是一種受人腦神經元結構啟發的計算
    的頭像 發表于 07-05 09:30 ?418次閱讀

    神經形態計算器件和陣列測試解決方案

    神經形態計算是一種新型的計算范式,它模仿生物神經網絡(如人腦)的結構和功能以在為人工智能、機器學習、機器人和感官處理等各種應用實現高性能、低功耗和自適應學習能力。
    的頭像 發表于 07-03 10:02 ?335次閱讀
    <b class='flag-5'>神經</b>形態<b class='flag-5'>計算</b>器件和陣列測試解決方案

    卷積神經網絡計算過程和步驟

    卷積神經網絡(Convolutional Neural Network, CNN)是一種深度學習模型,廣泛應用于圖像識別、視頻分析、自然語言處理等領域。本文將詳細介紹卷積神經網絡的計算過程和步驟
    的頭像 發表于 07-03 09:36 ?439次閱讀

    邊緣計算是什么意思?邊緣計算的應用

    邊緣計算(Edge Computing)是一種分布式計算范式,它將計算任務從數據中心遷移到網絡邊緣設備(如智能手機、物聯網傳感器等)上進行處理。邊緣計算的主要目標是降低延遲、提高數據安
    的頭像 發表于 05-31 14:19 ?667次閱讀

    存內計算WTM2101編譯工具鏈 資料

    存內計算是突破物理極限的下一代算力技術- AIGC等人工智能新興產業的快速發展離不開算力,算力的基礎是人工智能芯片。 當前CPU/GPU在執行計算密集型任務時需要將海量參數(ωij)從內存中讀取
    發表于 05-16 16:33

    英特爾發布新一代神經擬態系統Hala Point,11.5億神經元,12倍性能提升

    Point改進了架構,將神經元容量提高了10倍以上,性能提高了12倍。 英特爾研究院神經擬態計算實驗室總監Mike Davi
    的頭像 發表于 04-19 09:43 ?470次閱讀
    英特爾發布新一代<b class='flag-5'>神經</b><b class='flag-5'>擬態</b>系統Hala Point,11.5億<b class='flag-5'>神經</b>元,12倍性能提升

    淺談能耗系統在節能降耗的應用

    。防止相關的資源過度使用問題。而對于相關的節能降耗工作來說。通過合理的使用用電計量方式。簡單來說在整依的使用過程中使用用電計量方式,能夠滿足其現實意義,對使用的相關電量都進行整體的計算,然后在按照具體規定來對電量資源進
    的頭像 發表于 02-20 15:27 ?333次閱讀
    淺談能耗系統在節能<b class='flag-5'>降耗</b>的應用

    TC377波特率計算是否與幀大小有關?

    brZ 如圖 471 所示, 我想知道這個波特率計算是否與幀大小有關? 例如,4 位幀、8 位幀、32 位幀?波特率是指一幀/秒嗎? 對于 32 位幀,它是 32 位/秒?
    發表于 01-22 06:29

    邊緣計算是一種什么運算架構

    邊緣計算是一種分布式計算架構,它將數據處理和存儲功能從傳統的云端數據中心移至距離數據源更近的邊緣設備或邊緣節點上進行處理。這一架構的目標是通過減少數據傳輸延遲和帶寬需求,提高計算資源利用率,實現更快
    的頭像 發表于 12-27 15:02 ?728次閱讀