近期IBM稱，通過采用基于相變存儲的模擬芯片，機(jī)器學(xué)習(xí)可以加速一千倍。相變存儲（PCM）是基于硫?qū)倩锊ＡР牧?，能在施加合適電流時將介質(zhì)從晶態(tài)變?yōu)榉蔷B(tài)并再變回晶態(tài)，基于材料所表現(xiàn)出來的導(dǎo)電性差異來存儲數(shù)據(jù)。PCM設(shè)備是非易失性的，訪問延遲達(dá)到DRAM級別，是存儲級內(nèi)存一個很好的范例。

IBM博客透露，其正在建立一個研發(fā)中心，以開發(fā)新一代人工智能硬件并研究納米技術(shù)。技術(shù)合作伙伴包括紐約Staye，紐約州立大學(xué)理工學(xué)院，三星，Mellanox和Synopsis。

新型處理硬件

IBM研究院半導(dǎo)體和人工智能硬件副總裁，Mukesh Khare表示，目前的機(jī)器學(xué)習(xí)限制可以通過使用新的處理硬件來克服，例如;

數(shù)字化AI核心和近似計算

帶模擬內(nèi)核的內(nèi)存計算

采用優(yōu)化材料的模擬核心

他提到將深度神經(jīng)網(wǎng)絡(luò)（DNN）映射到模擬交叉點陣列（模擬AI核心）。它們在陣列交叉點處擁有非易失性存儲材料來存儲權(quán)重。

為了提高訓(xùn)練過程中決策的準(zhǔn)確性，DNN計算中的數(shù)值進(jìn)行了加權(quán)。

這些因素?zé)o需主機(jī)服務(wù)器CPU干預(yù)，就可以直接用交叉點PCM陣列實現(xiàn)，從而提供內(nèi)存計算，無需數(shù)據(jù)移動。相比英特爾XPoint SSD或DIMM等，這是一個模擬陣列。

PCM單元沿著非晶態(tài)和晶態(tài)之間的8步梯度記錄突觸權(quán)重。每個步驟的電導(dǎo)或電阻可以用電脈沖改變。這8個步驟在DNN計算中提供了8位精度。

非易失性存儲的交叉陣列可以通過在數(shù)據(jù)位置處執(zhí)行計算來加速完全連接的神經(jīng)網(wǎng)絡(luò)訓(xùn)練。

模擬存儲器芯片內(nèi)部的計算

IBM的研究論文指出：“模擬非易失性存儲器（NVM）可以有效地加速”反向傳播“算法，這是許多最新AI技術(shù)進(jìn)步的核心。這些存儲器允許使用的“累積乘法”運算，在模擬域中權(quán)重數(shù)據(jù)的位置上，用基礎(chǔ)物理學(xué)進(jìn)行并行化。

我們只需將一個小電流通過一個電阻器連接到一根電線上，然后將許多這樣的電線連接在一起，讓電流積聚起來。這樣我們不需要一個接一個地執(zhí)行計算，而是可以同時執(zhí)行許多計算。并且相比在數(shù)字存儲芯片和處理芯片之間花時間傳輸數(shù)據(jù)，我們可以在模擬存儲芯片內(nèi)執(zhí)行所有計算?！?/p>

PS：昨天對單身狗來說不是情人節(jié)，而是IBM從Computing Tabulating Recording計算列表紀(jì)錄公司改名為國際商業(yè)機(jī)器公司International Business Machines的日子——1924年2月14日。