|
自然新聞文章 2023年10月19日 令人興奮的IBM芯片加速人工智能IBM的NorthPole處理器回避了訪問外部存儲器的需要,，提高了計(jì)算能力并節(jié)省了能源,。
戴維·卡斯特爾韋奇 IBM開發(fā)的NorthPole芯片將內(nèi)存和處理功能結(jié)合在一起，極大地改善了圖像識別和其他計(jì)算任務(wù),。 加利福尼亞州圣何塞的IBM研究人員開發(fā)出一種受大腦啟發(fā)的計(jì)算機(jī)芯片,，可以通過更快的工作速度和更低的功耗來增強(qiáng)人工智能(AI)。他們的大規(guī)模NorthPole處理器芯片消除了頻繁訪問外部存儲器的需要,，因此執(zhí)行圖像識別等任務(wù)的速度比現(xiàn)有架構(gòu)更快,，同時(shí)功耗也大大降低。 “它的能源效率令人震驚,，”巴黎大學(xué)納米電子學(xué)研究員達(dá)米安·奎里奧斯說,。他說，發(fā)表在《科學(xué)》雜志上的這項(xiàng)工作表明,，計(jì)算和記憶可以大規(guī)模集成,。"我覺得這篇論文將動(dòng)搖計(jì)算機(jī)體系結(jié)構(gòu)中的普遍思維." NorthPole運(yùn)行神經(jīng)網(wǎng)絡(luò):簡單計(jì)算單元的多層陣列，通過編程識別數(shù)據(jù)中的模式,。底層接收數(shù)據(jù),，例如圖像中的像素；每個(gè)連續(xù)的層檢測復(fù)雜性增加的模式,，并將信息傳遞到下一層,。頂層產(chǎn)生一個(gè)輸出，例如,，可以表達(dá)一幅圖像包含一只貓,、一輛汽車或其他物體的可能性。 因瓶頸而變慢 一些計(jì)算機(jī)芯片可以有效地處理這些計(jì)算,，但它們?nèi)匀恍枰诿看斡?jì)算一層時(shí)使用名為RAM的外部存儲器,。以這種方式在芯片之間穿梭數(shù)據(jù)會(huì)降低速度——這種現(xiàn)象被稱為馮·諾依曼瓶頸，以數(shù)學(xué)家約翰·馮·諾依曼的名字命名,，他首先構(gòu)想了基于一個(gè)處理單元和一個(gè)獨(dú)立存儲單元的計(jì)算機(jī)標(biāo)準(zhǔn)架構(gòu),。 馮·諾依曼瓶頸是減緩計(jì)算機(jī)應(yīng)用(包括人工智能)的最重要因素之一。它還會(huì)導(dǎo)致能源效率低下,。這項(xiàng)研究的合著者達(dá)曼德拉·莫德哈是IBM的一名計(jì)算機(jī)工程師，他說他曾經(jīng)估計(jì)在這種類型的架構(gòu)上模擬一個(gè)人腦可能需要相當(dāng)于12個(gè)核反應(yīng)堆的輸出,。 NorthPole由256個(gè)計(jì)算單元或核心組成,，每個(gè)計(jì)算單元或核心都包含自己的內(nèi)存?！澳阏跍p輕核心中的馮·諾依曼瓶頸,，”Modha說，他是IBM在圣何塞的Almaden研究中心的大腦啟發(fā)計(jì)算的首席科學(xué)家。 Modha說,，這些核心在一個(gè)網(wǎng)絡(luò)中連接在一起,，這是受人類大腦皮層各部分之間白質(zhì)連接的啟發(fā)。這一設(shè)計(jì)原則和其他設(shè)計(jì)原則——其中大部分以前就存在,，但從未結(jié)合到一個(gè)芯片上——使NorthPole在圖像識別的標(biāo)準(zhǔn)基準(zhǔn)測試中以相當(dāng)大的優(yōu)勢擊敗了現(xiàn)有的人工智能機(jī)器,。它還使用了最先進(jìn)的人工智能芯片五分之一的能量，盡管沒有使用最新和最小型化的制造工藝,。作者估計(jì),，如果NorthPole設(shè)計(jì)采用最先進(jìn)的制造工藝，其效率將比目前的設(shè)計(jì)高出25倍,。 在正確的道路上 但是,，即使NorthPole的224兆內(nèi)存對于大型語言模型來說也是不夠的，例如chatbot ChatGPT使用的那些語言模型,，即使在最精簡的版本中也要占用幾千兆的數(shù)據(jù),。該芯片只能運(yùn)行預(yù)先編程的神經(jīng)網(wǎng)絡(luò)，這些網(wǎng)絡(luò)需要事先在單獨(dú)的機(jī)器上進(jìn)行“訓(xùn)練”,。但該論文的作者表示,，NorthPole架構(gòu)可能在速度關(guān)鍵的應(yīng)用中有用，如自動(dòng)駕駛汽車,。 NorthPole使內(nèi)存單元在物理上盡可能靠近內(nèi)核中的計(jì)算元件,。在其他地方，研究人員一直在利用新材料和制造工藝開發(fā)更激進(jìn)的創(chuàng)新,。這使得存儲單元本身能夠執(zhí)行計(jì)算,，原則上可以進(jìn)一步提高速度和效率。 上個(gè)月描述的另一種芯片使用憶阻器進(jìn)行內(nèi)存計(jì)算,，憶阻器是一種能夠在電阻和導(dǎo)體之間切換的電路元件,。“這兩種方法,，IBM的和我們的,，都有希望減少延遲和降低與數(shù)據(jù)傳輸相關(guān)的能源成本，”清華大學(xué)的高斌說,，他是憶阻器研究的合著者,。 另一種方法是由幾個(gè)團(tuán)隊(duì)開發(fā)的——包括瑞士蘇黎世的一個(gè)獨(dú)立的IBM實(shí)驗(yàn)室——通過改變電路元件的晶體結(jié)構(gòu)來存儲信息。這些新方法是否能在經(jīng)濟(jì)上擴(kuò)大規(guī)模還有待觀察,。doi:https:///10.1038/d41586-023-03267-0 |
|
|
