導(dǎo)讀:近日,密歇根大學(xué)研發(fā)成功第一臺(tái)可編程的憶阻器計(jì)算機(jī),它不僅是一個(gè)通過(guò)外部計(jì)算機(jī)運(yùn)行的憶阻器陣列,而且還是可以在智能手機(jī)等小型設(shè)備上進(jìn)行 AI 處理的計(jì)算機(jī)。
憶阻器(Memristor,全稱(chēng)記憶電阻器)陣列芯片插入定制的計(jì)算機(jī)芯片,第一臺(tái)可編程的憶阻器計(jì)算機(jī)就此誕生。該研究團(tuán)隊(duì)證明了憶阻器計(jì)算機(jī)可以運(yùn)行三種標(biāo)準(zhǔn)的機(jī)器學(xué)習(xí)算法。
這臺(tái)可編程的憶阻器計(jì)算機(jī)可以直接在類(lèi)似于智能手機(jī)和傳感器等能耗受限的小型設(shè)備上來(lái)進(jìn)行人工智能處理。智能手機(jī)的人工智能處理器意味著語(yǔ)音命令將不再需要發(fā)送到云端進(jìn)行處理,從而加快了請(qǐng)求的響應(yīng)時(shí)間。
“每個(gè)人都想在智能手機(jī)上安裝一個(gè)人工智能處理器,但大家都不想讓自己的手機(jī)電量消耗得太快。”美國(guó)密歇根大學(xué)電氣工程和計(jì)算機(jī)科學(xué)學(xué)院教授 Wei Lu這樣說(shuō)道。而在醫(yī)療設(shè)備中,人工智能算法就無(wú)需在云端運(yùn)行,這可以確保更好的安全性和隱私保密性。
何為憶阻器?
實(shí)現(xiàn)可編程憶阻器計(jì)算機(jī)的關(guān)鍵可能是憶阻器的高級(jí)計(jì)算機(jī)組件。
那什么是憶阻器呢?簡(jiǎn)單來(lái)說(shuō),這是一個(gè)帶有存儲(chǔ)功能的電阻器,它有著可變電阻,可以作為信息存儲(chǔ)的一種方式。由于憶阻器在同一位置進(jìn)行信息存儲(chǔ)和處理,因此可以繞過(guò)計(jì)算速度和功率的最大瓶頸:內(nèi)存和處理器之間的通道。
用常見(jiàn)的水管來(lái)比喻,電流是通過(guò)的水量,而電阻是水管的粗細(xì)時(shí),當(dāng)水從一個(gè)方向流過(guò)去,水管會(huì)隨著水流量而越來(lái)越粗,這時(shí)如果把水流關(guān)掉的話(huà),水管的粗細(xì)會(huì)維持不變;反之,當(dāng)水從相反方向流動(dòng)時(shí),水管就會(huì)越來(lái)越細(xì)。因?yàn)檫@樣的組件會(huì)“記住”之前的電流量,因此被稱(chēng)為憶阻器。
憶阻器為何有利于機(jī)器學(xué)習(xí)?
由于憶阻器尺寸小、能耗低,所以能很好地儲(chǔ)存和處理信息,一個(gè)憶阻器的工作量相當(dāng)于一枚 CPU 芯片中十幾個(gè)晶體管共同產(chǎn)生的效用。
這對(duì)于需要處理大量數(shù)據(jù)的機(jī)器學(xué)習(xí)算法尤其重要,例如識(shí)別照片和視頻中的對(duì)象,或是預(yù)測(cè)哪些醫(yī)院的患者更容易感染等實(shí)際問(wèn)題。程序員已經(jīng)傾向于在圖像處理單元上運(yùn)行這些算法,而不是在計(jì)算機(jī)的主處理器和中央處理單元上來(lái)運(yùn)行。
Wei Lu 表示:“在功率和吞吐量方面,GPU 和定制化及優(yōu)化度很高的數(shù)字電路的性能是 CPU 的 10 到 100倍,而憶阻器人工智能處理器的性能可能會(huì)再提高 10到 100 倍。”
GPU 在機(jī)器學(xué)習(xí)任務(wù)中表現(xiàn)得更好,因?yàn)樗鼈冇袛?shù)千個(gè)小型的內(nèi)核可以同時(shí)進(jìn)行計(jì)算,而不是等待一個(gè) CPU 中少數(shù)幾個(gè)功能強(qiáng)大的內(nèi)核來(lái)運(yùn)行這一系列的計(jì)算。
一個(gè)憶阻器陣列甚至可以更進(jìn)一步,每個(gè)憶組器都能進(jìn)行自己的計(jì)算,并且允許在一個(gè)內(nèi)核里同時(shí)進(jìn)行數(shù)千次的運(yùn)算。在這臺(tái)用于實(shí)驗(yàn)的計(jì)算機(jī)中,有 5800 多個(gè)憶阻器,如果是用于商業(yè)化的計(jì)算機(jī)則可能包括數(shù)百萬(wàn)個(gè)。
憶阻器陣列特別適用于解決機(jī)器學(xué)習(xí)領(lǐng)域的問(wèn)題。這是因?yàn)闄C(jī)器學(xué)習(xí)算法在本質(zhì)上是把數(shù)據(jù)轉(zhuǎn)化為向量,即數(shù)據(jù)點(diǎn)列表。例如,在預(yù)測(cè)患者在醫(yī)院里感染的風(fēng)險(xiǎn)時(shí),向量可能以數(shù)字的形式列出患者的風(fēng)險(xiǎn)因素。
然后,機(jī)器學(xué)習(xí)算法將這些“輸入”的向量與存儲(chǔ)在內(nèi)存中的“特征”向量進(jìn)行比較。這些特征向量表示數(shù)據(jù)的某些特征(例如潛在疾病的存在幾率)。如果相匹配,那么系統(tǒng)就知道輸入的數(shù)據(jù)具有這種特征。向量存儲(chǔ)在矩陣中,就像數(shù)學(xué)中的電子表格一樣,這些矩陣可以直接映射到憶阻器的陣列上。
更重要的是,當(dāng)數(shù)據(jù)通過(guò)陣列進(jìn)行輸入的時(shí)候,大部分的數(shù)學(xué)處理過(guò)程是通過(guò)憶阻器中的自然電阻進(jìn)行的,這也就消除了為了執(zhí)行計(jì)算而將特征向量移入和移出內(nèi)存的需要,這使得陣列在復(fù)雜的矩陣計(jì)算過(guò)程中保持很高的效率。
早期的研究證明了憶阻器陣列在提高機(jī)器學(xué)習(xí)效率方面的潛力,但它們需要外部的計(jì)算組件來(lái)發(fā)揮作用。
創(chuàng)建可編程的憶阻器計(jì)算機(jī)
為了創(chuàng)建第一臺(tái)可編程的憶阻器計(jì)算機(jī),Wei Lu 的團(tuán)隊(duì)與密歇根大學(xué)電子與計(jì)算機(jī)工程學(xué)院的 Zhengya Zhang 副教授、Michael Flynn 教授一起合作,設(shè)計(jì)出了一種芯片,可以將憶阻器陣列與編程及運(yùn)行所需的所有其余組件集成在一起,這些組件包括一個(gè)傳統(tǒng)的數(shù)字處理器和通信通道,以及數(shù)字與模擬信號(hào)的轉(zhuǎn)換器,作為模擬憶阻器陣列和計(jì)算機(jī)其余部分之間的解釋器。
接下來(lái),Wei Lu 的團(tuán)隊(duì)將憶阻器陣列直接集成到密歇根大學(xué)勞瑞納米加工技術(shù)實(shí)驗(yàn)室(Lurie Nanofabrication Facility )的芯片上。另外,他們還開(kāi)發(fā)了將機(jī)器學(xué)習(xí)算法映射到憶阻器陣列的矩陣結(jié)構(gòu)上的軟件。
該團(tuán)隊(duì)使用了三個(gè)很實(shí)用的機(jī)器學(xué)習(xí)算法進(jìn)行了演示:
感知器(Perceptron)用于對(duì)信息進(jìn)行分類(lèi),能夠 100% 地識(shí)別出不完美的希臘字母;
稀疏編碼(Sparse coding)用于對(duì)數(shù)據(jù)進(jìn)行壓縮和分類(lèi),尤其是對(duì)圖像數(shù)據(jù),計(jì)算機(jī)能夠找到最有效的方法來(lái)重建一組圖像,并且能夠 100% 地識(shí)別出模式;
雙層神經(jīng)網(wǎng)絡(luò)(Two-layer neural network)用于在復(fù)雜的數(shù)據(jù)中查找模式,它在乳腺癌篩查數(shù)據(jù)中發(fā)現(xiàn)了其中的共性和區(qū)分因素的特征,然后將每一個(gè)病例都按照惡性或是良性進(jìn)行分類(lèi),準(zhǔn)確率可達(dá)到 94.6%。
華人教授領(lǐng)隊(duì)開(kāi)發(fā)
可編程憶阻器計(jì)算機(jī)是由美國(guó)密歇根大學(xué)電氣工程和計(jì)算機(jī)科學(xué)學(xué)院的華人教授 Wei Lu 帶隊(duì)研發(fā)。
照片為 Wei Lu 與第一作者 Seung Hwan Lee 在一起。Seung Hwan Lee 是一名機(jī)電工程博士生,手里正拿著一個(gè)憶阻器陣列。圖片來(lái)源:Robert Coelius,密歇根工程學(xué)院
We Lu 教授的研究方向包括基于雙端電阻器件(RRAM)的高密度存儲(chǔ)器、憶阻器和憶阻系統(tǒng)、神經(jīng)形態(tài)電路和其他新興電子器件。他于 1996 年獲得清華大學(xué)物理學(xué)學(xué)士和電子與計(jì)算機(jī)工程學(xué)士學(xué)位,2003 年獲得德克薩斯州休斯頓大學(xué)、萊斯大學(xué)和德克薩斯大學(xué)博士學(xué)位。從 2003 年到2005 年,他是馬薩諸塞州劍橋市哈佛大學(xué)的博士后研究員。他于 2005 年進(jìn)入密歇根大學(xué),現(xiàn)任密歇根大學(xué)勞瑞納米加工技術(shù)實(shí)驗(yàn)室教授和主任。
同時(shí),他還是 IEEE 研究員,Nanoscale 期刊副主編,并于 2009 年獲得 NSF CAREER 獎(jiǎng),2012 年獲得 EECS 杰出成就獎(jiǎng),2014-15 獲得 Rexford E. Hall 創(chuàng)新卓越獎(jiǎng),2016-2017 獲得 David E. Liddle Research Excellent 獎(jiǎng)。迄今為止,他已發(fā)表了 100 多篇期刊論文,論文引用量達(dá) 22,000,其 H 指數(shù)為 63(Google Scholar)。此外,他還是 Crossbar Inc 的聯(lián)合創(chuàng)始人,該公司是一家開(kāi)發(fā)下一代非易失性存儲(chǔ)器的硅谷半導(dǎo)體公司。
2017 年,Wei Lu 的研究團(tuán)隊(duì)曾研究出儲(chǔ)備池計(jì)算系統(tǒng)(reservoir computing system),并發(fā)表在《自然·通信》上。該新型神經(jīng)網(wǎng)絡(luò)由憶阻器構(gòu)成,可以顯著提高機(jī)器學(xué)習(xí)人類(lèi)思維的效率,網(wǎng)絡(luò)能夠在對(duì)話(huà)期間預(yù)測(cè)接下來(lái)要講詞匯,并能夠基于當(dāng)前對(duì)話(huà)情況預(yù)測(cè)結(jié)果。
(圖源:領(lǐng)英)
該項(xiàng)目的合作研發(fā)者 Zhengya Zhang 同樣為電子與計(jì)算機(jī)工程學(xué)院的華人教授 ,資料顯示,他在密歇根大學(xué)從事研究已超過(guò) 9 年。
憶阻器商業(yè)化前景
Wei Lu 的研究團(tuán)隊(duì)表示,在憶阻器的商業(yè)應(yīng)用拓展層面,目前還存在著一些挑戰(zhàn),它還達(dá)不到該團(tuán)隊(duì)所期望的目標(biāo),而且存儲(chǔ)在陣列中的信息也不是完全可靠的,因?yàn)樗窃谀M的連續(xù)介質(zhì)上運(yùn)行,并不是以數(shù)字形式,這些都是 Wei Lu 團(tuán)隊(duì)未來(lái)的研究方向。
目前,Wei Lu 計(jì)劃將這項(xiàng)技術(shù)商業(yè)化。該項(xiàng)研究的課題為“一種完全集成的可重編碼的憶阻器 —— 用于高效的乘積-累加運(yùn)算的CMOS系統(tǒng)”。該研究由美國(guó)國(guó)防部先進(jìn)研究項(xiàng)目局、應(yīng)用驅(qū)動(dòng)架構(gòu)中心和美國(guó)國(guó)家科學(xué)基金會(huì)進(jìn)行資助。
-
AI
+關(guān)注
關(guān)注
87文章
30197瀏覽量
268447 -
憶阻器
+關(guān)注
關(guān)注
8文章
72瀏覽量
19838
原文標(biāo)題:性能比GPU高100倍!華人教授研發(fā)全球首個(gè)可編程憶阻器AI計(jì)算機(jī)
文章出處:【微信號(hào):rgznai100,微信公眾號(hào):rgznai100】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論