|
人臉檢測和手寫數(shù)字分類準(zhǔn)確率分別為93%和98%,。芯東西1月17日報(bào)道,，近日，三星電子在頂級學(xué)術(shù)期刊Nature上發(fā)表了全球首個(gè)基于MRAM（磁性隨機(jī)存儲器）的存內(nèi)計(jì)算研究,。存內(nèi)計(jì)算由于毋需數(shù)據(jù)在存儲器和處理器間移動,，大大降低了AI計(jì)算的功耗，被視作邊緣AI計(jì)算的一項(xiàng)前沿研究,。雖然MRAM存儲器件具備耐用性,、可大規(guī)模量產(chǎn)等優(yōu)勢，但其小電阻的特性阻礙了這類存儲器被用于存內(nèi)計(jì)算,。本次,，三星電子的研究團(tuán)隊(duì)通過構(gòu)建新的MRAM陣列結(jié)構(gòu)，用基于28nm CMOS工藝的MRAM陣列芯片運(yùn)行了手寫數(shù)字識別和人臉檢測等AI算法,，準(zhǔn)確率分別為98%和93%,。 
本文福利：三星基于MRAM的存內(nèi)計(jì)算研究登上Nature的論文原文，可在公眾號對話框回復(fù)【芯東西214】下載,。在傳統(tǒng)的計(jì)算機(jī)架構(gòu)中,，數(shù)據(jù)需要從內(nèi)存移動到處理單元，然后將中間結(jié)果存儲回內(nèi)存,。但這種無謂的信息傳輸不僅增加了計(jì)算延遲,，也提升了相關(guān)功耗。根據(jù)臺積電此前對存內(nèi)計(jì)算的研究,，數(shù)據(jù)移動所消耗的能量甚至大于計(jì)算的能量消耗,。因此，在內(nèi)存中同時(shí)執(zhí)行數(shù)據(jù)存儲和計(jì)算的存內(nèi)計(jì)算成為了行業(yè)與學(xué)術(shù)機(jī)構(gòu)研究的焦點(diǎn),。此前的研究中,，非易失性的RRAM（電阻式隨機(jī)存取存儲器）和PRAM（相變隨機(jī)存取存儲器）是存內(nèi)計(jì)算最常用的兩類存儲器,。相比之下，盡管MRAM器件在操作速度,、耐用性和量產(chǎn)等方面具有優(yōu)勢,，但其較低的電阻使MRAM存儲器在傳統(tǒng)的存內(nèi)計(jì)算架構(gòu)中無法達(dá)到低功耗要求。在本篇論文中,，三星電子的研究人員構(gòu)建了一種基于MRAM的新存內(nèi)計(jì)算架構(gòu),，填補(bǔ)了這種空白。論文特別寫道,，該研究并非和基于其他存儲器的存內(nèi)計(jì)算架構(gòu)競爭,。到目前為止，沒有一種存儲器類型在電子產(chǎn)品中占據(jù)絕對主導(dǎo),，因?yàn)椴煌愋偷拇鎯ζ鞲饔凶陨淼膬?yōu)點(diǎn)和缺點(diǎn),。因此，基于不同存儲器的存內(nèi)計(jì)算也可能發(fā)展成不同的架構(gòu),。從這個(gè)角度看,，三星電子通過填補(bǔ)基于MRAM存儲器的存內(nèi)計(jì)算架構(gòu)空白，有助于存內(nèi)計(jì)算發(fā)展,。
▲三星研究團(tuán)隊(duì)：共同通訊作者SAIT（三星高級技術(shù)研究所）院士,、哈佛大學(xué)教授Donhee Ham（左一）；論文一作SAIT研究員Seungchul Jung（左二）,；共同通訊作者SAIT技術(shù)副總裁Sang Joon Kim（左三） 三星電子構(gòu)建了一個(gè)64×64的MRAM陣列,，其外圍電路通過28nm CMOS工藝進(jìn)行了集成。具體結(jié)構(gòu)上來說,，MRAM陣列在寫/讀（W/R）電子元件和底部的TDC讀出電子元件之間,，輸入數(shù)據(jù)控制器（IN）位于陣列左側(cè)。為了彌補(bǔ)MRAM小電阻的問題,，三星電子引入了一種新的位單元（陣列行列交叉處的元素,，bit-cell），每個(gè)位單元組合成兩條路徑,，每條路徑則由一個(gè)MTJ（磁性隧道結(jié)）和一個(gè)FET（場效應(yīng)管）開關(guān)串聯(lián)組成,。
▲芯片布局與MRAM陣列排布（圖片來源：Nature） 研究人員將每列中這些新的位單元串聯(lián)起來，每個(gè)位單元的輸出電阻相加便得到了列電阻R,。通過新的結(jié)構(gòu)設(shè)計(jì),，列電阻R取代了傳統(tǒng)（存內(nèi)計(jì)算）結(jié)構(gòu)中基于基爾霍夫定律的列電流總和，成為了列輸出,，解決了MRAM器件電阻較小的問題,。簡單來說，就是三星電子開發(fā)了一種MRAM陣列芯片,，用新的“電阻總和”內(nèi)存計(jì)算架構(gòu)取代了標(biāo)準(zhǔn)的“電流和”內(nèi)存計(jì)算架構(gòu),，從而解決了單個(gè)MRAM器件的小電阻問題,。為了將這種新的MRAM陣列用于AI計(jì)算，研究人員采用了二值神經(jīng)網(wǎng)絡(luò)（BNN）算法,。這種算法的精度可以以網(wǎng)絡(luò)大小為代價(jià)，將每個(gè)實(shí)值權(quán)值表示為二值化函數(shù),，或以計(jì)算速度為代價(jià)將每個(gè)實(shí)值輸入數(shù)據(jù)表示為多個(gè)二值化函數(shù)序列,，以提高BNN算法的精度。該研究中,，三星電子采用了后一種方式,，將每個(gè)輸入數(shù)據(jù)擴(kuò)展為8位編碼，以抑制噪聲,。之后,，研究人員用兩層BNN網(wǎng)絡(luò)以對MNIST數(shù)據(jù)集進(jìn)行分類。MNIST數(shù)據(jù)集來自美國國家標(biāo)準(zhǔn)與技術(shù)研究所（NIST）,，訓(xùn)練集和測試集均由不同的手寫數(shù)字組成,，數(shù)據(jù)集和測試集50%的手寫數(shù)字來自高中生，另外50%來自美國人口普查局的工作人員,。
▲不同的手寫數(shù)字7（圖片來源：CSDN） 研究人員用MRAM陣列執(zhí)行了對1萬個(gè)手寫數(shù)字圖像的分類,，并重復(fù)了三次，得到了93.23±0.05%的準(zhǔn)確率,。測試后,，研究人員又通過VGG-8神經(jīng)網(wǎng)絡(luò)對1萬個(gè)手寫數(shù)字圖像進(jìn)行了分類，其準(zhǔn)確率高達(dá)98.86±0.06%,。除了手寫數(shù)字分類,，三星電子還用4個(gè)MRAM陣列芯片運(yùn)行了人臉檢測算法。在這一步,，MRAM陣列芯片并沒有對場景中的所有對象進(jìn)行人臉認(rèn)證,，而是先檢測場景中是否存在人臉，確認(rèn)存在后再激活更高功率的人臉認(rèn)證算法,。通過這種方法,，MRAM陣列芯片從2000個(gè)無遮罩人臉場景中檢測到1851張人臉，準(zhǔn)確率為92.5%,；從500個(gè)遮罩人臉場景中檢測到483張人臉,，準(zhǔn)確率為96.6%，總體準(zhǔn)確率為93.4%,。此外,，MRAM陣列芯片可以和相機(jī)結(jié)合實(shí)時(shí)檢測人臉。
▲4個(gè)MRAM陣列芯片與相機(jī)相連實(shí)時(shí)人臉檢測（圖片來源：Nature） 未來或可用于生物神經(jīng)元網(wǎng)絡(luò)對于這項(xiàng)研究,，研究人員寫道,，MRAM陣列運(yùn)行存內(nèi)計(jì)算的一個(gè)重要挑戰(zhàn)是構(gòu)建AI SoC（片上系統(tǒng)）,，將許多陣列和數(shù)據(jù)轉(zhuǎn)換器、數(shù)字電子設(shè)備進(jìn)行集成,。研究人員還強(qiáng)調(diào),，寬泛來說，內(nèi)存陣列不僅可以用來運(yùn)算神經(jīng)網(wǎng)絡(luò)算法,，也可以作為潛在的生物神經(jīng)元網(wǎng)絡(luò)載體,。2021年9月，三星電子和哈佛聯(lián)合在Nature子刊Nature Electronics上發(fā)表了名為《Neuromorphic electronics based on copying and pasting the brain（基于復(fù)制和粘貼大腦的神經(jīng)形態(tài)電子學(xué)）》的論文,，提出了一種將大腦神經(jīng)元連接圖（neuronal wiring map）“復(fù)制,、粘貼”到高密度3維存儲網(wǎng)絡(luò)上的可能。
▲三星此前“復(fù)制,、粘貼”大腦的研究（圖片來源：Nature） MRAM陣列研究的第一作者Seungchul Jung稱,，存內(nèi)計(jì)算與人類大腦的計(jì)算類似，因?yàn)槿祟惖挠?jì)算也發(fā)生在記憶或突觸網(wǎng)絡(luò)中,。雖然MRAM陣列當(dāng)前的計(jì)算目的并非模仿大腦,，但這種固態(tài)存儲網(wǎng)絡(luò)將來可能會被用作模擬大腦突觸的平臺。結(jié)語：新研究或?qū)⒇S富三星存內(nèi)計(jì)算產(chǎn)品近年來,，存內(nèi)計(jì)算已逐漸成為產(chǎn)業(yè)界和學(xué)術(shù)界的公識,，相關(guān)論文反復(fù)出現(xiàn)在ISSCC和IEDM等電子領(lǐng)域的頂級會議中，臺積電等半導(dǎo)體頭部廠商也都在布局和探索,。三星電子作為全球存儲龍頭,，更是一直在關(guān)注存內(nèi)計(jì)算技術(shù)。去年2月,，三星電子便公布了其首款集成了AI計(jì)算能力的高帶寬內(nèi)存（HBM）,，可以節(jié)省70%以上的能耗并提供2倍以上的系統(tǒng)性能。本次基于MRAM的存內(nèi)計(jì)算研究豐富了三星在存內(nèi)計(jì)算領(lǐng)域的布局,，未來或許能夠看到更多類型的存內(nèi)計(jì)算產(chǎn)品出現(xiàn)在市場上,。
|
