精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

科普NPU、TPU、IPU是什么?

ruikundianzi ? 來源:IP與SoC設計 ? 2023-05-17 14:14 ? 次閱讀

各種PU(processing unit)的概念層出不窮,比較火熱。今天我們來大致看看,這些X PU都是些什么?

什么是CPU

中央處理器(Central Processing Unit),是電子計算機的主要設備之一,電腦中的核心配件。其功能主要是解釋計算機指令以及處理計算機軟件中的數據。CPU是計算機中負責讀取指令,對指令譯碼并執行指令的核心部件。中央處理器主要包括兩個部分,即控制器、運算器,其中還包括高速及實現它們緩沖處理器之間聯系的數據、控制的總線。

電子計算機三大核心部件就是CPU、內部存儲器、輸入/輸出設備。中央處理器的功效主要為處理指令、執行操作、控制時間、處理數據,也就是機器的“大腦”。在計算機體系結構中,CPU 是對計算機的所有硬件資源(如存儲器、輸入輸出單元) 進行控制調配、執行通用運算的核心硬件單元。CPU 是計算機的運算和控制核心。計算機系統中所有軟件層的操作,最終都將通過指令集映射為CPU的操作。

CPU的結構主要包括運算器(ALU, Arithmetic and Logic Unit)、控制單元(CU, Control Unit)、寄存器(Register)、高速緩存器(Cache)和它們之間通訊的數據、控制及狀態的總線。

架構如下圖所示:

475f94b2-f474-11ed-90ce-dac502259ad0.png

什么是GPU

圖形處理器(Graphics Processing Unit),又稱顯示核心、視覺處理器、顯示芯片,是一種專門在個人電腦、工作站、游戲機和一些移動設備(如平板電腦、智能手機等)上做圖像和圖形相關運算工作的微處理器

GPU的構成相對簡單,有數量眾多的計算單元和超長的流水線,特別適合處理大量的類型統一的數據。但GPU無法單獨工作,必須由CPU進行控制調用才能工作。

圖像上的每一個像素點都有被處理的需要,而且每個像素點處理的過程和方式都十分相似,也就成了GPU的天然溫床。GPU就是用很多簡單的計算單元去完成大量的計算任務,也就是并行計算。

47793c5a-f474-11ed-90ce-dac502259ad0.png

47856cb4-f474-11ed-90ce-dac502259ad0.png

什么是TPU?

TPU(Tensor Processing Unit),也就是張量處理單元,是一款為機器學習而定制的芯片,經過了專門深度機器學習方面的訓練,它有更高效能。

如果說CPU,GPU是比較萬能的工具,那么TPU就是專用工具。TPU就是谷歌專門為加速深層神經網絡運算能力而研發的一款芯片,其實也是一款ASIC

財大氣粗的谷歌就是針對機器學習算法而專門制作了TPU,那么它的性能想來也是沒得說。畢竟專業人做專業事,效率更高。

據說,TPU與同期的CPU和GPU相比,可以提供15-30倍的性能提升,以及30-80倍的效率(性能/瓦特)提升。

每一個操作需要更少的晶體管,用更多精密且大功率的機器學習模型,并快速應用這些模型,因此用戶便能得到更正確的結果。這就是TPU。

47a3fd50-f474-11ed-90ce-dac502259ad0.png

47c04de8-f474-11ed-90ce-dac502259ad0.png

什么是NPU?

NPU(Neural network Processing Unit), 也就是神經網絡處理器。顧名思義,設計人員試圖用電路模擬人類的神經元和突觸結構。

在電路層模擬神經元,通過突觸權重實現存儲和計算一體化,一條指令完成一組神經元的處理,提高運行效率。主要應用于通信領域、大數據、圖像處理。

嵌入式神經網絡處理器(NPU)采用“數據驅動并行計算”的架構,特別擅長處理視頻、圖像類的海量多媒體數據。

NPU處理器專門為物聯網人工智能而設計,用于加速神經網絡的運算,解決傳統芯片在神經網絡運算時效率低下的問題。

NPU處理器包括了乘加、激活函數、二維數據運算、解壓縮等模塊。

乘加模塊用于計算矩陣乘加、卷積、點乘等功能,NPU內部有64個MAC,SNPU有32個。

激活函數模塊采用最高12階參數擬合的方式實現神經網絡中的激活函數,NPU內部有6個MAC,SNPU有3個。

二維數據運算模塊用于實現對一個平面的運算,如降采樣、平面數據拷貝等,NPU內部有1個MAC,SNPU有1個。

解壓縮模塊用于對權重數據的解壓。為了解決物聯網設備中內存帶寬小的特點,在NPU編譯器中會對神經網絡中的權重進行壓縮,在幾乎不影響精度的情況下,可以實現6-10倍的壓縮效果。

神經網絡中存儲和處理是一體化的,都是通過突觸權重來體現。而馮·諾伊曼結構中,存儲和處理是分離的,分別由存儲器和運算器來實現,二者之間存在巨大的差異。因此專門針對人工智能的專業芯片在具體的應用領域比傳統芯片更有性能等方面的優勢。

47dfad32-f474-11ed-90ce-dac502259ad0.png

什么是IPU?

傳統意義上的IPU(Image Processing Unit),圖像處理單元,是圖像識別SoC的重要組成部分。

47f5f38a-f474-11ed-90ce-dac502259ad0.png

圖像處理單元的目標是提供從圖像輸入(攝像頭傳感器 / 電視信號輸入等)到顯示設備(LCD顯示屏 / TV輸出 / 外部圖像處理單元等)端到端的數據流信號處理的全面支持。

480de9c2-f474-11ed-90ce-dac502259ad0.png

IPU庫(IPU Library)是基于IPU硬件的,它能實現以下功能:

1、調整大小。

2、旋轉。

3、色彩空間 / 格式轉換。

4、以同樣大小的窗口,支持色鍵和α混合疊加組合。

5、在IPU處理后,直接輸出顯示到幀緩沖區。

6、兩個輸出處理來自一個輸入。

7、窗口切割。

8、局部 α 混合。

在IPU處理內,IPU庫采取三種操作緩沖區的方式:

1、輸入緩沖區,包含需要處理的數據,用戶可以自己分配或者由IPU庫分配。

2、輸出緩沖區,包含來自輸入緩沖區已經處理完成的數據,用戶可以自己分配

或者由IPU庫分配;如果用戶想將輸出顯示指向幀緩沖區,然后用戶就不需要分配它們,幀緩沖區現在已經是輸出緩沖區了。

3、覆蓋緩沖區,包含要處理和組合的數據。

(注意:這三個緩沖區是連續的。)

對于IPU緩沖區有兩種操作模式:

1、流模式,在IPU低級操作里將使用雙緩沖區。

2、正常模式,在IPU低級操作里將使用單緩沖區。

481e79b8-f474-11ed-90ce-dac502259ad0.png

Tip:

以上提到的IPU是傳統意義上的IPU,2021年8月英特爾發布了兩款新的IPU(Infrustracture Processing Unit),架構處理器,讓各類網絡服務運作過程可降低CPU資源占用比重。在定位上與英偉達提出的DPU(Data Processing Unit)相類似。

哦對了,Graphcore 此前也開發了一款IPU,智能處理單元(intelligence processing unit),用于改善AI性能,實現AI技術

目前看來,或許X PU的前綴字母已經不夠用了。當然,這也是各大廠商希望自己與其他家產品區分開的結果。我們真的需要這么多X PU嗎?大浪淘沙,時間自然會給我們答案。

X PU大致一覽

APU -- Accelerated Processing Unit, 加速處理器,AMD公司推出加速圖像處理芯片產品。

BPU -- Brain Processing Unit, 地平線公司主導的嵌入式處理器架構。

CPU -- Central Processing Unit 中央處理器, 目前PC core的主流產品。

DPU -- Deep learning Processing Unit, 深度學習處理器,最早由國內深鑒科技提出;另說有Dataflow Processing Unit 數據流處理器, Wave Computing 公司提出的AI架構;Data storage Processing Unit,深圳大普微的智能固態硬盤處理器。

FPU -- Floating Processing Unit 浮點計算單元,通用處理器中的浮點運算模塊。

GPU -- Graphics Processing Unit, 圖形處理器,采用多線程SIMD架構,為圖形處理而生。

HPU -- Holographics Processing Unit 全息圖像處理器, 微軟出品的全息計算芯片與設備。

IPU -- Intelligence Processing Unit, Deep Mind投資的Graphcore公司出品的AI處理器產品。

MPU/MCU -- Microprocessor/Micro controller Unit, 微處理器/微控制器,一般用于低計算應用的RISC計算機體系架構產品,如ARM-M系列處理器。

NPU -- Neural Network Processing Unit,神經網絡處理器,是基于神經網絡算法與加速的新型處理器總稱,如中科院計算所/寒武紀公司出品的diannao系列。

RPU -- Radio Processing Unit, 無線電處理器, Imagination Technologies 公司推出的集合集Wifi/藍牙/FM/處理器為單片的處理器。

TPU -- Tensor Processing Unit 張量處理器, Google 公司推出的加速人工智能算法的專用處理器。目前一代TPU面向Inference,二代面向訓練。

VPU -- Vector Processing Unit 矢量處理器,Intel收購的Movidius公司推出的圖像處理與人工智能的專用芯片的加速計算核心。

WPU -- Wearable Processing Unit, 可穿戴處理器,Ineda Systems公司推出的可穿戴片上系統產品,包含GPU/MIPS CPU等IP。

XPU -- 百度與Xilinx公司在2017年Hotchips大會上發布的FPGA智能云加速,含256核。

ZPU -- Zylin Processing Unit, 由挪威Zylin 公司推出的一款32位開源處理器。

審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19178

    瀏覽量

    229201
  • cpu
    cpu
    +關注

    關注

    68

    文章

    10829

    瀏覽量

    211196
  • TPU
    TPU
    +關注

    關注

    0

    文章

    138

    瀏覽量

    20701
  • IPU
    IPU
    +關注

    關注

    0

    文章

    34

    瀏覽量

    15550
  • NPU
    NPU
    +關注

    關注

    2

    文章

    272

    瀏覽量

    18554

原文標題:科普:NPU,TPU,IPU,這些都是什么?

文章出處:【微信號:IP與SoC設計,微信公眾號:IP與SoC設計】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    TPU-MLIR開發環境配置時出現的各種問題求解

    按照 TPU-MLIR 開發指南進行環境配置: 2.1. 代碼下載? 代碼路徑: https://github.com/sophgo/tpu-mlir 克隆該代碼后, 需要在Docker中編譯
    發表于 01-10 08:02

    CORAL-EDGE-TPU:珊瑚開發板TPU

    包括一個上系統模塊(SOM)和護壁板。SOM基于iMX 8M應用處理器,還包含LPDDR4內存,eMMC存儲,雙頻Wi-Fi和Edge TPU。Edge TPU是由Google設計的小型ASIC
    發表于 05-29 10:43

    TPU透明副牌.TPU副牌料.TPU抽粒廠.TPU塑膠副牌.TPU再生料.TPU低溫料

    清源塑膠經營. 供應TPU塑膠原料.副牌.再生顆粒料.TPU塑膠.TPU透明副牌. 再生粒子.白色.黑色.透明. 注塑料.擠出料. 壓延等等..聚醚. 脂肪料. 聚酯料.硬度70A--98A.
    發表于 11-21 17:21

    TPU副牌低溫料.TPU熱熔料.TPU中溫料.TPU低溫塑膠.TPU低溫抽粒.TPU中溫塑料

    清源塑膠公司.供應TPU塑膠原料.副牌.再生顆粒料.TPU塑膠.TPU透明副牌. 再生粒子.白色.黑色.透明. 注塑料.擠出料. 壓延等等..聚醚. 脂肪料. 聚酯料.硬度70A--98A. 高硬度
    發表于 11-21 17:33

    供應TPU抽粒工廠.TPU再生工廠.TPU聚醚料.TPU聚酯料.TPU副牌透明.TPU副牌.TPU中低溫料

    清源塑膠經營.進口.國內.供應TPU原料.副牌TPU塑膠.TPU透明副牌. 再生粒子.白色.黑色.透明. 注塑料.擠出料. 壓延等等..聚醚. 脂肪料. 聚酯料.硬度70A--98A. 高硬度
    發表于 11-21 17:47

    采購TPU復牌料.復牌TPU原料.TPU復牌透明塑料.TPU廢邊料.TPU廢膜料.TPU低溫料

    全球大量采購① tpu,透明,白色,副牌,再生粒,注塑,擠出料,TPU邊角膜料. TPU廢卷膜. 進口.國內料. 200噸,② TPU低溫,中溫.副牌料,膠塊料. 200噸, ③ PB
    發表于 11-22 02:38

    CPU,GPU,TPU,NPU都是什么

    嵌入式算法移植優化學習筆記5——CPU,GPU,TPU,NPU都是什么一、什么是CPU?二、什么是GPU?三、什么是TPU?四、什么是NPU?附:一、什么是CPU?中央處理器(CPU)
    發表于 12-15 06:07

    MCU、DSP、GPU、MPU、CPU、DPU、FPGA、ASIC、SOC、ECU、NPUTPU、VPU、APU、BPU、ECU、FPU、EPU、這些主控異同點有哪些?

    MCU、DSP、GPU、MPU、CPU、DPU、FPGA、ASIC、SOC、ECU、NPUTPU、VPU、APU、BPU、ECU、FPU、EPU、這些主控異同點有哪些?
    發表于 12-17 17:07

    如何驗證MC68332 TPU配置是否正確?

    a) 以下 TPU 模塊配置在項目中完成 *M332_TPU_TMCR = 0x1e4c;/* 選擇 TCR1 時基 = 250nsec, TCR2 = 4usec,仿真模式
    發表于 05-09 08:17

    CPU、GPU、TPUNPU等的講解

    CPU、GPU、TPUNPU等的講解
    的頭像 發表于 01-05 14:54 ?1.1w次閱讀

    MPU、MCU、CPU、GPU、DSP、MMU、TPUNPU大雜燴

    MPU、MCU、CPU、GPU、DSP、MMU、TPUNPU大雜燴寫在前面:相信大家都和我一樣,對這些U的英文縮寫,傻傻分不清楚,這是最近收集的一些,整理一下,做個記錄。MPU與MCU最常見的大家
    發表于 12-08 14:21 ?19次下載
    MPU、MCU、CPU、GPU、DSP、MMU、<b class='flag-5'>TPU</b>、<b class='flag-5'>NPU</b>大雜燴

    什么是CPU、GPU、TPU、DPU、NPU、BPU?有什么區別?

    技術日新月異,物聯網、人工智能、深度學習等遍地開花,各類芯片名詞GPU, TPU, NPU,DPU層出不窮…它們都是什么鬼?又有什么不一樣? 01 CPU CPU,作為機器的“大腦”,它是布局謀略
    的頭像 發表于 06-30 08:48 ?1.6w次閱讀
    什么是CPU、GPU、<b class='flag-5'>TPU</b>、DPU、<b class='flag-5'>NPU</b>、BPU?有什么區別?

    npu是什么意思?npu芯片是什么意思?npu到底有什么用?

    npu是什么意思?npu芯片是什么意思?npu到底有什么用?? NPU的概念 NPU(Neural Processing Unit,神經網絡
    的頭像 發表于 08-27 17:03 ?4.1w次閱讀

    TPUNPU的區別

    TPUNPU的區別? 在IT領域中,TPUNPU屬于兩種不同類型的芯片。這兩種芯片都是專為人工智能(AI)和大型數據分析設計而開發的,但它們的功能和優點卻有所不同。在本文中,我們將
    的頭像 發表于 08-27 17:08 ?7703次閱讀

    NPU與機器學習算法的關系

    緊密。 NPU的起源與特點 NPU的概念最早由谷歌在其TPU(Tensor Processing Unit)項目中提出,旨在為TensorFlow框架提供專用的硬件加速。NPU的設計目
    的頭像 發表于 11-15 09:19 ?339次閱讀