近日,MIT工程師設(shè)計出了一種像大腦突觸一樣運(yùn)作的AI系統(tǒng),這種神經(jīng)網(wǎng)絡(luò)的系統(tǒng),基于離子的技術(shù)可以實(shí)現(xiàn)對大腦學(xué)習(xí)過程的節(jié)能模擬,為物理神經(jīng)網(wǎng)絡(luò)提供更快,更可靠和更節(jié)能的方法。
世界各地的團(tuán)隊正在建立一種稱為神經(jīng)網(wǎng)絡(luò)的更為復(fù)雜的人工智能系統(tǒng),該系統(tǒng)以某種方式模仿大腦的布線,以執(zhí)行諸如計算機(jī)視覺和自然語言處理之類的復(fù)雜任務(wù)。使用最新的半導(dǎo)體電路來模擬神經(jīng)網(wǎng)絡(luò)需要大量的內(nèi)存和高功耗。現(xiàn)在,麻省理工學(xué)院的一個團(tuán)隊已朝著另一種系統(tǒng)邁進(jìn)了一步,該系統(tǒng)使用了物理模擬設(shè)備,可以更加有效地模擬大腦過程。
麻省理工學(xué)院教授Bilge Yildiz,Ju Li和Jesúsdel Alamo以及麻省理工學(xué)院和布魯克海文國家實(shí)驗室的其他9位研究人員在論文《Nature Communications》中描述了這一發(fā)現(xiàn)。該論文的創(chuàng)作者是夏霞瑤,他是前麻省理工學(xué)院的博士后,目前在GRU能源實(shí)驗室從事儲能工作。
神經(jīng)網(wǎng)絡(luò)試圖模擬在大腦中進(jìn)行學(xué)習(xí)的方式,這是基于逐漸增強(qiáng)或減弱的神經(jīng)元之間的連接(稱為突觸)而建立的。該物理神經(jīng)網(wǎng)絡(luò)的核心組件是電阻開關(guān),其電導(dǎo)率可以電氣控制。這種控制或調(diào)節(jié)模擬了大腦中突觸的增強(qiáng)和減弱。
在使用常規(guī)硅微芯片技術(shù)的神經(jīng)網(wǎng)絡(luò)中,這些突觸的模擬是一個非常耗能的過程。為了提高效率并實(shí)現(xiàn)更雄心勃勃的神經(jīng)網(wǎng)絡(luò)目標(biāo),近年來,研究人員一直在探索許多物理設(shè)備,這些物理設(shè)備可以更直接地模仿突觸在學(xué)習(xí)和遺忘過程中逐漸增強(qiáng)和減弱的方式。
迄今為止,對于這種模擬突觸,大多數(shù)候選模擬電阻裝置要么在能量使用方面效率很低,要么在一個裝置到另一個裝置或一個周期到下一個周期的執(zhí)行不一致。研究人員說,新系統(tǒng)克服了這兩個挑戰(zhàn)。“我們不僅要解決能源挑戰(zhàn),而且還要解決普遍存在的一些現(xiàn)有概念中與重復(fù)性相關(guān)的挑戰(zhàn),”
“我認(rèn)為當(dāng)今構(gòu)建神經(jīng)網(wǎng)絡(luò)應(yīng)用程序的瓶頸是能效。特別是在無人駕駛汽車等邊緣應(yīng)用上花費(fèi)太多的精力,”教授del Alamo說。他補(bǔ)充說,訓(xùn)練這些復(fù)雜的應(yīng)用程序?qū)τ诋?dāng)今的技術(shù)來說根本不可行。
這項工作中的電阻開關(guān)是一種電化學(xué)設(shè)備,由三氧化鎢(WO 3)制成,其工作方式類似于電池的充電和放電。Alamo解釋說,根據(jù)所施加電壓的極性和強(qiáng)度,離子(在這種情況下為質(zhì)子)可以遷移到材料的晶格中或從材料的晶格中遷移出來。這些變化會一直存在,直到被反向施加的電壓改變?yōu)橹梗ň拖裢挥|的增強(qiáng)或減弱一樣)。
在新的模擬突觸中,顯示為H +的氫離子(質(zhì)子)可以在氫存儲材料(R)和活性材料(A)三氧化鎢之間來回遷移,穿過電解質(zhì)層(E)。離子的移動受通過金電極(S和D)施加的電壓的極性和強(qiáng)度控制,這反過來會改變設(shè)備的電阻。從而模擬內(nèi)存。
“這種機(jī)制類似于半導(dǎo)體的摻雜。”在該過程中,通過將外來離子引入硅晶格,可以將硅的電導(dǎo)率改變許多數(shù)量級。“傳統(tǒng)上,這些離子是在工廠植入的,”但是,有了新的設(shè)備,這些離子就會以動態(tài),持續(xù)的過程被泵入和泵出晶格。研究人員可以通過控制電壓來控制有多少“摻雜”離子進(jìn)入或流出,并且已經(jīng)證明了非常好的重復(fù)性和能效。
這個過程“非常類似于生物大腦突觸的工作方式。在那里,不使用質(zhì)子,而是使用其他離子,例如鈣,鉀,鎂等,通過移動這些離子,實(shí)際上改變了突觸的抵抗力,這是學(xué)習(xí)的要素。” 在其裝置中的三氧化鎢中發(fā)生的過程類似于在生物突觸中發(fā)生的電阻調(diào)節(jié)。
“我們在這里展示的內(nèi)容,”Alamo說,“即使它不是一種優(yōu)化的設(shè)備,其電導(dǎo)率單位變化所產(chǎn)生的單位面積能耗也接近于大腦。” ,試圖用傳統(tǒng)的CMOS型半導(dǎo)體完成相同的任務(wù)將耗費(fèi)一百萬倍的能量。
選擇用于演示新器件的材料是因為它們與當(dāng)前的半導(dǎo)體制造系統(tǒng)兼容。但是它們包含限制設(shè)備耐熱性的聚合物材料,因此研究小組仍在尋找設(shè)備質(zhì)子傳導(dǎo)膜的其他變化以及為長期運(yùn)行而封裝氫源的更好方法。
在該設(shè)備的材料級別上,有很多基礎(chǔ)研究要做。 正在進(jìn)行的研究將包括“如何將這些器件與現(xiàn)有的CMOS晶體管集成的工作”。所有這一切都需要時間,而且它提供了巨大的創(chuàng)新機(jī)會,也為我們的學(xué)生發(fā)展職業(yè)提供了巨大的機(jī)會。
-
AI
+關(guān)注
關(guān)注
87文章
30239瀏覽量
268480 -
MIT
+關(guān)注
關(guān)注
3文章
253瀏覽量
23365 -
離子
+關(guān)注
關(guān)注
0文章
98瀏覽量
17088
發(fā)布評論請先 登錄
相關(guān)推薦
評論