IBM蘇黎世研究院創(chuàng)造出了世界上首個人工納米級的隨機相變神經(jīng)元,,他們已將論文發(fā)表在了Nature Nanotechnology上。據(jù)介紹,,IBM已經(jīng)創(chuàng)造出了500個這樣的人工神經(jīng)元,,并使用它們以類似大腦(神經(jīng)形態(tài))的方式處理過了信號。 這一突破相當?shù)刂档藐P(guān)注,,因為這種相變神經(jīng)元是由已經(jīng)被充分理解的材料制成的,,其尺寸能縮減至數(shù)個納米級,而且它們能夠高速爆發(fā)動作電位而能量需求卻很低,。這種神經(jīng)元的隨機性(stochasticity)也很重要——也就是它們總是產(chǎn)生稍微不同的,、隨機結(jié)果的能力,如同生物神經(jīng)元一樣,。 設(shè)計這種神經(jīng)元是為了在僅使用傳統(tǒng)芯片能耗的幾分之一的情況下更好地處理大量的數(shù)據(jù),。IBM蘇黎世研究院的科學家Tomas Tuma(論文第一作者)說,「如今的挑戰(zhàn)是接收量級和復(fù)雜度都不斷增大的數(shù)據(jù),,并且使用較小的功率和較少的能耗提取里面有用的知識,。」 技術(shù):人工相變神經(jīng)元的構(gòu)建 閑言少敘,,讓我們看一下這些相變神經(jīng)元如何構(gòu)建的: 圖解 IBM 的單個相變神經(jīng)元 相變神經(jīng)元的動力,。左下展示了 GST 的漸結(jié)晶化,當有足夠的晶體(藍色顯示)之后,,神經(jīng)元就會放電,。 在左邊你可以看到單個相變神經(jīng)元的初始行為,,中間你能看到在數(shù)秒后它有什么行為。 像生物神經(jīng)元一樣,,IBM的人工神經(jīng)元也有輸入(樹突),、一個圍繞著尖峰發(fā)生器(胞體、細胞核)的神經(jīng)元膜(雙層脂膜(lipid bilayer))和一個輸出(軸突),。從尖峰發(fā)生器(spike generator)到輸入之間有一個反向傳播連接,,可強化一些輸入峰值的強度。 這種人工神經(jīng)元和生物神經(jīng)元的主要區(qū)別是在神經(jīng)元膜中,。在真正的神經(jīng)元中,,里面會是雙層脂膜,本質(zhì)上是充當電阻器和電容器:它抗電導(dǎo),,但在輸入樹突最后有足夠電力的情況下,,它將建立足夠的電勢產(chǎn)生自己的峰值(spike of electricity),然后從軸突流動到其他神經(jīng)元等等,,并繼續(xù)下去,。 在IBM的神經(jīng)元中,神經(jīng)元膜被替換成了小塊的鍺-銻-碲(germanium-antimony-tellurium,,GeSbTe或GST),。GST剛好是其他可復(fù)寫光碟的主要原料,也是一個相變材料,。這意味著它能以兩種不同的相存在(這里是晶體與非晶體),,而且能輕松的在兩者間進行轉(zhuǎn)換,通常是通過加熱進行轉(zhuǎn)換(方式是激光或者電力),。一個相變材料因所在相的不同有相當不同的物理特性:在GST中,,非晶相是電絕緣體,晶體相卻導(dǎo)電,。 帶有這些人工神經(jīng)元的GST方塊在非晶相開始了其生命周期,。然后,隨著輸入中尖峰信號(spikes)的到來,,GST開始緩慢結(jié)晶,。最終,GST的結(jié)晶達到足夠程度使其變得導(dǎo)電——于是,,電流流過細胞膜并創(chuàng)造一個尖峰信號,。在一個任意的不應(yīng)期(refractory period,指不會響應(yīng)刺激的休止階段)后,,GST會被重置回它的非晶相,,然后重新開始這個過程。 「隨機」是指系統(tǒng)的結(jié)果中存在隨機量(randomness)。生物神經(jīng)元因為有各種不同的噪聲(離子電導(dǎo),、熱,、背景噪聲),所以是隨機的,。IBM說它的人工神經(jīng)元能表現(xiàn)出類似的隨機行為,,因為每個GST細胞的非晶狀態(tài)在每次重置之后總是稍有不同,這又會繼續(xù)導(dǎo)致其結(jié)晶過程各不相同,。因此,,這些工程師從來不明確知道每個神經(jīng)元會何時放電。 一個滿是相變器件(銀色方塊)的晶圓的照片,。要讓這樣的實際成果工作,,必需要探針:這只是一塊原型芯片,沒有可以連接到電路板的線路/引腳,。 IBM 人工神經(jīng)元的應(yīng)用 現(xiàn)在有兩個主要的發(fā)展方向,。第一,這種由已被充分理解的材料構(gòu)成的人工神經(jīng)元具有很好的性能特點,,可以長時間持續(xù)(數(shù)萬億個開關(guān)周期),,并且可以在先進的節(jié)點上制造/集成(上圖所示芯片所采用的工藝是90納米,但研究論文中提到了14納米的可能性),。在這次的研究中提出的這種相變器件已經(jīng)相當小了——大約100納米見方。 IBM 的多人工神經(jīng)元計算機的模樣 第二,,這些相變神經(jīng)元是我們到目前為止所創(chuàng)造出的行為最接近生物神經(jīng)元的人工器件,,也會能為我們帶來一種高效的、大規(guī)模的并行計算機設(shè)計——應(yīng)用神經(jīng)形態(tài)的方法來進行決策和處理傳感信息,。IBM表示他們的新成果和正在研發(fā)的基于憶阻器(memristor)的突觸是相輔相成的,。 到目前為止,IBM已經(jīng)構(gòu)建出了10x10的神經(jīng)元交叉陣列,,并將這樣的5個陣列連接起來創(chuàng)建了一個包含多達500個神經(jīng)元的神經(jīng)元群,,然后讓它以一種全新的類腦方式處理了寬帶信號。(用技術(shù)方面的術(shù)語來說:這些神經(jīng)元表現(xiàn)出了和生物神經(jīng)元涌現(xiàn)出的一樣的「群編碼(population coding)」,,而且這種信號處理規(guī)避了奈奎斯特-香農(nóng)采樣定理,。) 但我們沒有任何理由止步于此。現(xiàn)在是時候?qū)?shù)千個這樣的相變神經(jīng)元集成到單一一塊芯片上了——然后是更難的部分:編寫一些能夠真正利用該芯片的神經(jīng)形態(tài)的軟件,。
摘要:在理解人腦和構(gòu)建神經(jīng)計算系統(tǒng)上,,基于棘波神經(jīng)元(spiking neurons)群的人工神經(jīng)形態(tài)系統(tǒng)是一種不可或缺的工具。要實現(xiàn)可與生物系統(tǒng)相比的尺寸和能量效率,,基于電離子和基于相變的憶阻器件一直被看作是突觸的納米級對應(yīng)物而被研究,。但是,神經(jīng)元的可擴展的實現(xiàn)的進展一直以來都很有限。在這里我們提出了一種可用于創(chuàng)造人工神經(jīng)元的基于硫族化物的相變材料,,該人工神經(jīng)元的膜電位可由該納米相變器件的相結(jié)構(gòu)表示,。通過利用非晶到結(jié)晶相變的這個可逆的物理過程,我們發(fā)現(xiàn)突觸后電位(postsynaptic potentials)的時間積分可以在納秒級的時間尺度上實現(xiàn),。此外,,我們發(fā)現(xiàn)在神經(jīng)元重置過程中會發(fā)生原子結(jié)構(gòu)的熔融-驟冷-誘導(dǎo)生成(melt-quench-induced),所以該重置過程本質(zhì)上是隨機的,。我們還在高帶寬信號的并行數(shù)據(jù)流和亞奈奎斯特表示(sub-Nyquist representation)中的時間關(guān)聯(lián)性檢測中演示了這些相變神經(jīng)元及它們的群的使用,。 轉(zhuǎn)自機器之心 |
|
來自: 思考力_行動力 > 《IBM中國渠道大學》