精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

存算一體化與邊緣計算:重新定義智能計算的未來

穎脈Imgtec ? 2024-11-12 01:05 ? 次閱讀

來源:邊緣計算社區


隨著數據量爆炸式增長和智能化應用的普及,計算與存儲的高效整合逐漸成為科技行業關注的重點。數據存儲和處理需求的快速增長推動了對計算架構的重新設計,“存算一體化”技術應運而生。同時,隨著物聯網5G網絡人工智能AI)等技術的發展,數據量的分布性、實時性需求增加,邊緣計算也逐漸從概念走向落地。本文將介紹存算一體化與邊緣計算的核心思想及其發展趨勢,探討兩者在智能計算模式中的應用前景。


從“馮·諾依曼架構”說起:傳統計算模式的困境

上世紀40年代,著名數學家馮·諾依曼提出了一個開創性的計算架構,被稱為“馮·諾依曼架構”。它提出了計算機系統的五大基本組成部分:輸入單元、輸出單元、存儲單元、控制單元和運算單元,并定義了它們之間的交互方式。馮·諾依曼架構的核心思想是將計算和存儲分離,數據和指令通過統一的總線在中央處理單元(CPU)和內存之間傳輸。該架構的經典特征為存儲程序概念,即程序和數據同樣存儲在內存中,由CPU讀取并執行。

328bd964-a04f-11ef-8084-92fbcf53809c.png

盡管結構簡單、通用性強,適用于多種計算任務,但在今天,它的局限性越來越明顯。1. 數據傳輸瓶頸:在馮·諾依曼架構中,數據頻繁在內存和CPU之間搬運。這一過程帶來顯著的延遲,系統難以高效處理數據,尤其在大數據和AI模型的應用場景中表現尤為突出。

2. 高能耗:頻繁的數據傳輸不僅增加了電力消耗,還帶來了硬件的發熱和散熱成本,在能源要求越來越高的計算任務中成為一大限制。

3. 資源利用率低:CPU和內存之間常常互相等待,尤其在密集計算任務中,導致系統資源的利用效率低下。

這種“馮·諾依曼瓶頸”直接制約了當今的人工智能、大數據分析等計算任務的發展。存算一體化和邊緣計算被視為解決這一瓶頸的有力方案。


存算一體化:突破馮·諾依曼瓶頸的創新

存算一體化(Processing-In-Memory,PIM)打破了“存儲-計算分離”的模式,直接在存儲單元內部集成計算單元,實現了數據的“就地處理”。這一創新從根本上優化了計算結構,帶來了巨大的性能提升。存算一體化的三大優勢:

顯著降低延遲:數據在存儲器內直接處理,無需頻繁搬運,大大減少了延遲。

降低能耗:減少數據搬運所需的電力消耗,延長設備續航,提高系統能效。

提升并行計算效率:特別適用于大規模并發計算任務,如深度學習和大數據分析。

根據計算單元與存儲單元的距離,存算一體化主要分為三類:近存計算(PNM)、存內處理(PIM)和存內計算(CIM)。

1. 近存計算(PNM):近存計算是一種較為成熟的技術路徑,采用先進的封裝技術,將計算邏輯芯片和存儲器封裝在一起,縮短內存和處理單元之間的路徑,以實現更高的I/O密度,帶來高帶寬和低訪問開銷。該方案主要依托2.5D、3D堆疊等技術,廣泛應用于CPU和GPU等高性能處理器中,是實現存算一體化的首選方案之一。

2. 存內處理(PIM):存內處理旨在盡可能多地將計算過程嵌入到存儲器內部,減少處理器對存儲器的訪問頻率。通過在存儲器中直接完成大部分計算任務,這一技術有效降低了數據搬運需求,有助于緩解馮·諾依曼瓶頸帶來的限制。這種方案在內存密集型任務上具有顯著的性能優勢,被認為是未來智能計算的重要實現路徑。

3. 存內計算(CIM):存內計算也稱為國內一些公司推崇的“存算一體”。它通過對存儲器結構進行改進,使其直接具備計算能力。存內計算有兩種實現思路:

  • 電路革新:通過改動SRAM或MRAM等存儲器,使其具備計算功能,這種方法能效比高,但計算精度可能受限。
  • 集成計算單元:在存儲器(如DRAM)中集成額外計算單元,以支持高精度計算。然而,由于DRAM工藝對計算邏輯電路的適應性差,這一方式面臨較大的工藝挑戰。

不同公司在存算一體化領域有各自的技術策略。部分企業聚焦于優化存儲與計算的協同效率,提升大數據處理的性能;另一些公司則注重架構的靈活性和可擴展性,以應對動態的市場需求。此外,存算一體化的存儲介質也日趨多元,包括以SRAM、DRAM為代表的易失性存儲器和以Flash為代表的非易失性存儲器等。


邊緣計算:讓數據在源頭處理的高效模式

邊緣計算(Edge Computing)則是一種將數據處理資源部署在網絡邊緣的計算模式,使得數據可以直接在靠近源頭的位置處理。與云計算相比,邊緣計算能滿足低延遲和實時響應的需求,尤其適用于自動駕駛、智能制造等場景。邊緣計算的三大優勢:

低延遲:數據在靠近源頭的位置處理,無需傳輸至云端,響應時間顯著降低。

減輕網絡負擔:邊緣計算設備完成初步數據處理,僅上傳關鍵信息至云端,減少了網絡流量壓力。

提升數據隱私保護:在本地處理敏感數據,無需頻繁上傳至云端,有助于保護用戶隱私。邊緣計算在智能家居、智能交通、工業自動化等領域已經取得了顯著成果。隨著物聯網設備的普及,邊緣計算需求將不斷增加,并與云計算形成相輔相成的架構。


存算一體化與邊緣計算的結合:智能計算的加速器

存算一體化和邊緣計算的結合,正逐步催生出一套更加高效的智能計算模式。由于邊緣設備往往體積小、功耗低、算力有限,難以承擔復雜的計算任務,而存算一體化能顯著增強邊緣設備的處理能力,使其更加高效、低能耗。以下是存算一體化與邊緣計算的結合應用:

·物聯網設備的數據處理

物聯網設備大多部署在網絡邊緣位置,用于實時監測環境數據。采用存算一體化技術的邊緣設備能夠在本地完成數據處理,減少不必要的上傳。例如,搭載存算一體化芯片的智能攝像頭可以直接分析視頻數據,僅傳輸關鍵事件至云端,大大降低網絡流量。

·邊緣AI推理

邊緣計算在AI推理中的應用越來越廣泛,如自動駕駛、智能醫療等場景。邊緣AI推理通常需要處理大量實時數據,而存算一體化技術能夠提高推理速度。比如,自動駕駛車輛可以在攝像頭數據中直接完成識別和決策,確保快速響應。

·工業實時控制

在工業場景中,設備需實時監控和控制。例如機械臂的控制、工廠設備的狀態監測等。存算一體化使邊緣設備具備實時數據處理能力,保障系統的快速響應,提升了工廠的自動化和智能化水平。

·數據隱私保護

邊緣設備常處理敏感數據,直接上傳至云端會帶來隱私風險。存算一體化在本地完成數據處理,減少上傳需求,有助于提升數據隱私性和安全性。


技術趨勢與挑戰

雖然存算一體化和邊緣計算結合前景廣闊,但在技術落地過程中仍面臨挑戰:

硬件研發復雜:存算一體化技術涉及復雜的芯片設計和制造,如何在存儲芯片內部高效集成計算單元仍是關鍵難題。芯片的工藝和計算精度也需要進一步提升。

設備多樣性與適配難題:邊緣設備種類繁多、資源配置差異較大,如何提供通用的存算一體化解決方案是技術難點。未來需設計低成本、高通用性的存算一體化邊緣芯片。

軟件生態支持:存算一體化架構需要完整的軟件支持,例如優化的編譯器、計算框架和編程工具鏈,開發者需針對硬件架構優化算法和模型。

  1. 隱私和安全保障:邊緣計算設備處理大量數據,如何保障數據加密和隱私安全也是技術發展的重點。

展望:智能計算的未來

隨著存算一體化和邊緣計算技術的成熟,智能計算將迎來低延遲、低能耗、高效率的新階段。我們可以預見以下趨勢:

邊緣AI應用普及:存算一體化和邊緣計算的結合使得邊緣AI計算變得高效,更多智能應用將在邊緣設備上實現。

智能終端設備的自主化:存算一體化提升了邊緣設備的計算能力,減少對云端依賴,使設備更具自主性。

  • 低能耗的分布式計算模式:存算一體化減少數據傳輸能耗,邊緣計算的分布式架構能降低云端負荷,使得網絡資源更高效。

未來,存算一體化與邊緣計算的融合將推動智能計算從集中化向分布式發展、從高能耗走向低能耗。它們將成為構建智能社會的重要基石,使我們身邊的智能設備更高效、更安全,朝著真正的“萬物互聯”時代邁進。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 一體化
    +關注

    關注

    0

    文章

    244

    瀏覽量

    14404
  • 智能計算
    +關注

    關注

    0

    文章

    176

    瀏覽量

    16454
  • 邊緣計算
    +關注

    關注

    22

    文章

    3063

    瀏覽量

    48626
收藏 人收藏

    評論

    相關推薦

    直播預約 |開源芯片系列講座第24期:SRAM一體:賦能高能效RISC-V計算

    鷺島論壇開源芯片系列講座第24期「SRAM一體:賦能高能效RISC-V計算」11月27日(周三)20:00精彩開播期待與您云相聚,共襄學術盛宴!|直播信息報告題目SRAM
    的頭像 發表于 11-16 01:10 ?80次閱讀
    直播預約 |開源芯片系列講座第24期:SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>:賦能高能效RISC-V<b class='flag-5'>計算</b>

    中偉視界:AI邊端云一體化平臺的智能化全流程解析

    AI邊端云一體化管控平臺通過將邊緣計算與云端服務整合,實現了從數據采集到決策的全流程智能化管理,提升了效率與安全性。平臺支持多種設備的靈活集成及自動
    的頭像 發表于 09-19 11:41 ?195次閱讀

    ARMxy ARM物聯網邊緣計算網關支持Node-RED用于云邊端一體化

    隨著工業物聯網(IIoT)的蓬勃發展,邊緣計算網關成為實現數據采集、處理與轉發的關鍵設備。ARMxy ARM物聯網邊緣計算網關憑借其強大的處理能力和靈活的軟件配置選項,成為實現云邊端
    的頭像 發表于 08-19 16:05 ?333次閱讀
    ARMxy ARM物聯網<b class='flag-5'>邊緣</b><b class='flag-5'>計算</b>網關支持Node-RED用于云邊端<b class='flag-5'>一體化</b>

    云邊一體化物聯網平臺如何實現?有什么功能

    云邊一體化物聯網平臺(CloudEdge Integration IoT Platform)是種結合了云計算邊緣計算優勢的物聯網解決方案
    的頭像 發表于 07-29 14:34 ?407次閱讀

    什么是機電一體化?它有哪些應用?

    在科技飛速發展的今天,機電一體化技術已成為現代工業生產的核心驅動力之。它融合了機械工程、電子技術、計算機技術、信息技術等多學科的理論與技術,實現了機械與電子的有機結合,極大地推動了制造業的
    的頭像 發表于 06-11 14:02 ?4376次閱讀

    邊緣計算網關:數字轉型浪潮的基石

    摘要:在數字轉型的浪潮中,邊緣計算網關成為連接中心計算邊緣設備的重要橋梁。本文將探討邊緣
    的頭像 發表于 05-30 18:09 ?754次閱讀

    計算原理分類——數字計算與模擬計算

    數字計算與模擬計算各有優劣,都是一體發展
    的頭像 發表于 05-21 16:26 ?2201次閱讀
    <b class='flag-5'>存</b>內<b class='flag-5'>計算</b>原理分類——數字<b class='flag-5'>存</b>內<b class='flag-5'>計算</b>與模擬<b class='flag-5'>存</b>內<b class='flag-5'>計算</b>

    探索計算—基于 SRAM 的計算與基于 MRAM 的一體的探究

    本文深入探討了基于SRAM和MRAM的一體技術在計算領域的應用和發展。首先,介紹了基于SRAM的內邏輯
    的頭像 發表于 05-16 16:10 ?2536次閱讀
    探索<b class='flag-5'>存</b>內<b class='flag-5'>計算</b>—基于 SRAM 的<b class='flag-5'>存</b>內<b class='flag-5'>計算</b>與基于 MRAM 的<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>的探究

    科技攜手北大共建一體化技術實驗室,推動AI創新

    揭牌儀式結束后,王紹迪在北大集成電路學院舉辦的“未名·芯”論壇上做了主題演講,分享了他對于多模態大模型時代計算發展的見解。他強調了一體
    的頭像 發表于 05-08 17:25 ?883次閱讀

    什么是一體化PFC模塊

    格平科技與脫離傳統PFC模塊定義,推出一體化的PFC 模塊,無需加外圍電路,上電即可使用
    的頭像 發表于 02-25 10:19 ?718次閱讀
    什么是<b class='flag-5'>一體化</b>PFC模塊

    什么是通感一體化?通感一體化的應用場景

    通感一體化可廣泛應用于智能家居、智慧城市、智慧交通、醫療健康等方面。文檔君為大家搜集了些典型的應用場景。 智能家居 通感
    發表于 01-18 16:12 ?1.1w次閱讀
    什么是通感<b class='flag-5'>算</b><b class='flag-5'>一體化</b>?通感<b class='flag-5'>算</b><b class='flag-5'>一體化</b>的應用場景

    墨芯人工智能CEO王維:需要重新定義和設計AI計算

    AI時代,我們需要重新定義和設計AI計算機。僅依靠硅基的摩爾定律,2年翻倍的線性增長的力供給遠不能滿足指數級增長的需求問題。
    的頭像 發表于 01-12 11:12 ?1028次閱讀

    乘用車一體化電池的發展現狀和未來趨勢

    佐思汽研發布《2024年乘用車CTP、CTC和CTB一體化電池行業研究報告》,對乘用車一體化電池發展現狀及主機廠、供應商相關產品布局進行了梳理研究,并對乘用車一體化電池未來發展趨勢進行
    的頭像 發表于 01-10 14:06 ?974次閱讀
    乘用車<b class='flag-5'>一體化</b>電池的發展現狀和<b class='flag-5'>未來</b>趨勢

    一體芯片如何支持Transformer等不同模型?

    后摩智能致力于打造通用人工智能芯片,自主研發的一體芯片在支持各類模型方面表現突出,包括YOLO系列網絡、BEV系列網絡、點云系列網絡等。
    的頭像 發表于 01-05 14:14 ?1296次閱讀

    SRAM一體芯片的研究現狀和發展趨勢

    人工智能時代對計算芯片的力和能效都提出了極高要求。一體芯片技術被認為是有望解決處理器芯片“
    的頭像 發表于 01-02 11:02 ?2310次閱讀
    SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>芯片的研究現狀和發展趨勢