各種PU(processing unit)的概念層出不窮,比較火熱。今天我們來大致看看,這些X PU都是些什么?
什么是CPU?
中央處理器(Central Processing Unit),是電子計算機的主要設備之一,電腦中的核心配件。其功能主要是解釋計算機指令以及處理計算機軟件中的數據。CPU是計算機中負責讀取指令,對指令譯碼并執行指令的核心部件。中央處理器主要包括兩個部分,即控制器、運算器,其中還包括高速及實現它們緩沖處理器之間聯系的數據、控制的總線。
電子計算機三大核心部件就是CPU、內部存儲器、輸入/輸出設備。中央處理器的功效主要為處理指令、執行操作、控制時間、處理數據,也就是機器的“大腦”。在計算機體系結構中,CPU 是對計算機的所有硬件資源(如存儲器、輸入輸出單元) 進行控制調配、執行通用運算的核心硬件單元。CPU 是計算機的運算和控制核心。計算機系統中所有軟件層的操作,最終都將通過指令集映射為CPU的操作。
CPU的結構主要包括運算器(ALU, Arithmetic and Logic Unit)、控制單元(CU, Control Unit)、寄存器(Register)、高速緩存器(Cache)和它們之間通訊的數據、控制及狀態的總線。
架構如下圖所示:
什么是GPU?
圖形處理器(Graphics Processing Unit),又稱顯示核心、視覺處理器、顯示芯片,是一種專門在個人電腦、工作站、游戲機和一些移動設備(如平板電腦、智能手機等)上做圖像和圖形相關運算工作的微處理器。
GPU的構成相對簡單,有數量眾多的計算單元和超長的流水線,特別適合處理大量的類型統一的數據。但GPU無法單獨工作,必須由CPU進行控制調用才能工作。
圖像上的每一個像素點都有被處理的需要,而且每個像素點處理的過程和方式都十分相似,也就成了GPU的天然溫床。GPU就是用很多簡單的計算單元去完成大量的計算任務,也就是并行計算。
什么是TPU?
TPU(Tensor Processing Unit),也就是張量處理單元,是一款為機器學習而定制的芯片,經過了專門深度機器學習方面的訓練,它有更高效能。
如果說CPU,GPU是比較萬能的工具,那么TPU就是專用工具。TPU就是谷歌專門為加速深層神經網絡運算能力而研發的一款芯片,其實也是一款ASIC。
財大氣粗的谷歌就是針對機器學習算法而專門制作了TPU,那么它的性能想來也是沒得說。畢竟專業人做專業事,效率更高。
據說,TPU與同期的CPU和GPU相比,可以提供15-30倍的性能提升,以及30-80倍的效率(性能/瓦特)提升。
每一個操作需要更少的晶體管,用更多精密且大功率的機器學習模型,并快速應用這些模型,因此用戶便能得到更正確的結果。這就是TPU。
什么是NPU?
NPU(Neural network Processing Unit), 也就是神經網絡處理器。顧名思義,設計人員試圖用電路模擬人類的神經元和突觸結構。
在電路層模擬神經元,通過突觸權重實現存儲和計算一體化,一條指令完成一組神經元的處理,提高運行效率。主要應用于通信領域、大數據、圖像處理。
嵌入式神經網絡處理器(NPU)采用“數據驅動并行計算”的架構,特別擅長處理視頻、圖像類的海量多媒體數據。
NPU處理器專門為物聯網人工智能而設計,用于加速神經網絡的運算,解決傳統芯片在神經網絡運算時效率低下的問題。
NPU處理器包括了乘加、激活函數、二維數據運算、解壓縮等模塊。
乘加模塊用于計算矩陣乘加、卷積、點乘等功能,NPU內部有64個MAC,SNPU有32個。
激活函數模塊采用最高12階參數擬合的方式實現神經網絡中的激活函數,NPU內部有6個MAC,SNPU有3個。
二維數據運算模塊用于實現對一個平面的運算,如降采樣、平面數據拷貝等,NPU內部有1個MAC,SNPU有1個。
解壓縮模塊用于對權重數據的解壓。為了解決物聯網設備中內存帶寬小的特點,在NPU編譯器中會對神經網絡中的權重進行壓縮,在幾乎不影響精度的情況下,可以實現6-10倍的壓縮效果。
神經網絡中存儲和處理是一體化的,都是通過突觸權重來體現。而馮·諾伊曼結構中,存儲和處理是分離的,分別由存儲器和運算器來實現,二者之間存在巨大的差異。因此專門針對人工智能的專業芯片在具體的應用領域比傳統芯片更有性能等方面的優勢。
什么是IPU?
傳統意義上的IPU(Image Processing Unit),圖像處理單元,是圖像識別SoC的重要組成部分。
圖像處理單元的目標是提供從圖像輸入(攝像頭傳感器 / 電視信號輸入等)到顯示設備(LCD顯示屏 / TV輸出 / 外部圖像處理單元等)端到端的數據流信號處理的全面支持。
IPU庫(IPU Library)是基于IPU硬件的,它能實現以下功能:
1、調整大小。
2、旋轉。
3、色彩空間 / 格式轉換。
4、以同樣大小的窗口,支持色鍵和α混合疊加組合。
5、在IPU處理后,直接輸出顯示到幀緩沖區。
6、兩個輸出處理來自一個輸入。
7、窗口切割。
8、局部 α 混合。
在IPU處理內,IPU庫采取三種操作緩沖區的方式:
1、輸入緩沖區,包含需要處理的數據,用戶可以自己分配或者由IPU庫分配。
2、輸出緩沖區,包含來自輸入緩沖區已經處理完成的數據,用戶可以自己分配
或者由IPU庫分配;如果用戶想將輸出顯示指向幀緩沖區,然后用戶就不需要分配它們,幀緩沖區現在已經是輸出緩沖區了。
3、覆蓋緩沖區,包含要處理和組合的數據。
(注意:這三個緩沖區是連續的。)
對于IPU緩沖區有兩種操作模式:
1、流模式,在IPU低級操作里將使用雙緩沖區。
2、正常模式,在IPU低級操作里將使用單緩沖區。
Tip:
以上提到的IPU是傳統意義上的IPU,2021年8月英特爾發布了兩款新的IPU(Infrustracture Processing Unit),架構處理器,讓各類網絡服務運作過程可降低CPU資源占用比重。在定位上與英偉達提出的DPU(Data Processing Unit)相類似。
哦對了,Graphcore 此前也開發了一款IPU,智能處理單元(intelligence processing unit),用于改善AI性能,實現AI技術。
目前看來,或許X PU的前綴字母已經不夠用了。當然,這也是各大廠商希望自己與其他家產品區分開的結果。我們真的需要這么多X PU嗎?大浪淘沙,時間自然會給我們答案。
X PU大致一覽
APU -- Accelerated Processing Unit, 加速處理器,AMD公司推出加速圖像處理芯片產品。
BPU -- Brain Processing Unit, 地平線公司主導的嵌入式處理器架構。
CPU -- Central Processing Unit 中央處理器, 目前PC core的主流產品。
DPU -- Deep learning Processing Unit, 深度學習處理器,最早由國內深鑒科技提出;另說有Dataflow Processing Unit 數據流處理器, Wave Computing 公司提出的AI架構;Data storage Processing Unit,深圳大普微的智能固態硬盤處理器。
FPU -- Floating Processing Unit 浮點計算單元,通用處理器中的浮點運算模塊。
GPU -- Graphics Processing Unit, 圖形處理器,采用多線程SIMD架構,為圖形處理而生。
HPU -- Holographics Processing Unit 全息圖像處理器, 微軟出品的全息計算芯片與設備。
IPU -- Intelligence Processing Unit, Deep Mind投資的Graphcore公司出品的AI處理器產品。
MPU/MCU -- Microprocessor/Micro controller Unit, 微處理器/微控制器,一般用于低計算應用的RISC計算機體系架構產品,如ARM-M系列處理器。
NPU -- Neural Network Processing Unit,神經網絡處理器,是基于神經網絡算法與加速的新型處理器總稱,如中科院計算所/寒武紀公司出品的diannao系列。
RPU -- Radio Processing Unit, 無線電處理器, Imagination Technologies 公司推出的集合集Wifi/藍牙/FM/處理器為單片的處理器。
TPU -- Tensor Processing Unit 張量處理器, Google 公司推出的加速人工智能算法的專用處理器。目前一代TPU面向Inference,二代面向訓練。
VPU -- Vector Processing Unit 矢量處理器,Intel收購的Movidius公司推出的圖像處理與人工智能的專用芯片的加速計算核心。
WPU -- Wearable Processing Unit, 可穿戴處理器,Ineda Systems公司推出的可穿戴片上系統產品,包含GPU/MIPS CPU等IP。
XPU -- 百度與Xilinx公司在2017年Hotchips大會上發布的FPGA智能云加速,含256核。
ZPU -- Zylin Processing Unit, 由挪威Zylin 公司推出的一款32位開源處理器。
審核編輯:湯梓紅
-
處理器
+關注
關注
68文章
19178瀏覽量
229201 -
cpu
+關注
關注
68文章
10829瀏覽量
211196 -
TPU
+關注
關注
0文章
138瀏覽量
20701 -
IPU
+關注
關注
0文章
34瀏覽量
15550 -
NPU
+關注
關注
2文章
272瀏覽量
18554
原文標題:科普:NPU,TPU,IPU,這些都是什么?
文章出處:【微信號:IP與SoC設計,微信公眾號:IP與SoC設計】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論