久久国产成人av_抖音国产毛片_a片网站免费观看_A片无码播放手机在线观看,色五月在线观看,亚洲精品m在线观看,女人自慰的免费网址,悠悠在线观看精品视频,一级日本片免费的,亚洲精品久,国产精品成人久久久久久久

分享

DeepMind用深度學習模仿大腦推理,,預測編碼智能推進一大步,!

 天承辦公室 2018-07-20





  新智元編譯  

來源:quantamagazine

編譯:大明


【新智元導讀】預測編碼理論認為,大腦的感知、運動控制,、記憶及其他高級功能,,取決于真實經(jīng)歷和大腦對未來的預測之間的差異。DeepMind新推出的“生成查詢網(wǎng)絡”模仿了大腦的預測編碼機制,,明顯提升了預測系統(tǒng)的智能化水平,。

 

上個月,人工智能公司DeepMind推出了一款新軟件,可以在虛擬房間內(nèi)拍攝一些物體的單個圖像,,并且能夠在沒有真人指導的情況下,,從全新的有利視角推斷出三維場景的樣貌。這一系統(tǒng)名為生成查詢網(wǎng)絡(GQN),它可以成功模擬簡單的視頻游戲式迷宮的布局,。


GQN有很典型的技術(shù)上的應用,,不過它同樣引發(fā)了神經(jīng)科學家的關(guān)注,,他們對用于學習如何執(zhí)行任務的訓練算法特別感興趣,。GQN能夠由給定的圖像生成關(guān)于場景樣貌的預測,比如定位目標的位置,,陰影在平面上的投射樣式,,在某些視角下,,哪些區(qū)域是應該可見還是隱藏,,并利用預測結(jié)果與真實觀察結(jié)果之間的差異,,來提高其未來預測的準確性,?!罢乾F(xiàn)實與預測之間的差異,使得模型能夠不斷更新,?!痹擁椖控撠熑酥籄li Eslami說,。


Eslami在該研究上的合作者,、也是他在DeepMind的同事Danilo Rezende表示,,“算法會改變預測模型的參數(shù),所以下次遇到相同的情況時,,它就不會顯得那么驚訝了,。”


長期以來,,神經(jīng)科學家一直懷疑大腦的運行方式也遵循與此類似的機制,。(這些推測確實是啟發(fā)GQN團隊探尋這種方法的一部分原因。)根據(jù)這種“預測編碼”(predictive coding)理論,,在認知過程的每個層面,,大腦都會產(chǎn)生一些關(guān)于應該自其下面的層級接收到哪些信息的模型和觀點。這些觀點被轉(zhuǎn)化為關(guān)于在特定情況下的經(jīng)歷的預測,,提供令這些經(jīng)歷說得通的最佳解釋,。然后將預測結(jié)果作為反饋發(fā)送到大腦的較低級的感覺區(qū)域。大腦將自己的預測結(jié)果與收到的實際感官輸入內(nèi)容進行比較,,并“搪塞掉”任何差異或預測錯誤,,并可以通過使用其內(nèi)部模型來確定出現(xiàn)這種差異的可能的原因。(例如,,我們可能根據(jù)某個內(nèi)部模型將一張桌子視為一個由四條腿支撐的平面,,但即使桌子被其他東西遮住了一半,我們?nèi)匀豢梢哉J得出這是一張桌子,。)

 

對于給定的一張色塊樣式的二維圖像(左),,GQN人工智能能夠推斷出色塊在空間中的三維排列(右)。該系統(tǒng)依賴于作為預測編碼的神經(jīng)科學理論的一些基本見解,。圖/DeepMind


無法解釋的預測誤差會通過更高級別的連接(作為“前饋”信號,,而不是反饋)傳遞,這里,,預測誤差被認為是值得注意的現(xiàn)象,,系統(tǒng)需要注意并做出相應處理,。倫敦大學學院的Karl Friston說:“現(xiàn)在的關(guān)注點在于內(nèi)部模型的調(diào)節(jié),關(guān)注大腦動力學,,來抑制預測中的錯誤,。” Friston是著名神經(jīng)科學家,,也是預測編碼假設的先驅(qū)之一,。


在過去的十年中,認知科學家,、哲學家和心理學家將預測編碼作為一個令人信服的想法,,尤其是用于描述感知的運行機制,而且將其作為一個關(guān)于整個大腦運行機制的更具雄心,、包羅萬象的理論,。直到最近才有實驗工具開始直接測試這一假設的具體機制,過去兩年內(nèi)發(fā)表的一些論文為該理論提供了驚人的證據(jù),。盡管如此,,該理論仍然存在爭議,最近,,關(guān)于一些具有里程碑意義的實驗結(jié)果是否可重復的爭論,,可能該理論存在爭議的最好的證明。


咖啡,、奶油與狗


“我喝咖啡喜歡加奶油和____,。”這個句子用“糖”來填空似乎是很自然的,。這也是加州大學圣迭戈分校的認知科學家Marta Kutas和Steven Hillyard的本意,,他們在1980年進行了一系列的實驗,他們在實驗中將這句話逐詞放到大屏幕上給人看,,并記錄下觀眾的大腦活動,。只不過,出現(xiàn)的最后一個詞并不是“糖”,,而是“狗”,。整個句子變成了:“我喝咖啡喜歡加奶油和狗?!?/span>


研究人員注意到,,當研究對象看到“狗”這個出乎意料的詞時,會出現(xiàn)更激烈的大腦反應,,這些反應的具體特點為“特定模式的電活動”,,稱為“N400效應”(N400 effect),在“狗”一詞出現(xiàn)大約400毫秒后達到峰值,。但研究人員仍不清楚應如何解釋這一現(xiàn)象,。大腦作出反應,,是因為這個詞的意思在本句背景下是不合常理的?還是因為大腦沒預料到這個詞的出現(xiàn),,它違背了大腦對預期出現(xiàn)內(nèi)容的預測,?


2005年,Kutas和她的團隊進行了另一項研究,,表明后一種假設是對的。實驗對象再次要求讀屏幕上逐詞出現(xiàn)的一句話:“這天微風陣陣,,所以男孩子們出去放____,。”因為“風箏”(a kite)似乎是最有可能用來補完句子的詞,,所以接下來實驗對象的期望是冠詞“a”,,它沒有內(nèi)在意義,但表示接下來還會有一個詞,。而當參與者看到接下來的詞是“an”時,,他們就經(jīng)歷了N400效應,這似乎是因為大腦必須處理其期望與現(xiàn)實之間的不符,。顯然,,這一效應與該詞的含義以及處理出現(xiàn)的刺激本身的困難程度無關(guān)。


2005年的這一發(fā)現(xiàn)似乎非常適合預測編碼框架理論,。但今年4月,,eLife發(fā)表的一篇論文稱,有幾個實驗室無法重復這一實驗結(jié)果?,F(xiàn)在,,也有研究人員開始做出回應,一些人聲稱重復實驗的微妙結(jié)果仍然有利于基于預測的解釋,。


這種搖擺不定反映出關(guān)于預測編碼理論的大部分爭論,。像Kusta這樣的實驗可以有許多種解釋。比如可以通過除預測編碼之外的模型來解釋,,并且這些實驗缺乏足以證明假設的確實證據(jù),,因為它們沒有深入研究實際的機制。雖然大腦會不斷做出推論(并將這些推論與現(xiàn)實進行比較)的想法已構(gòu)建得相當完善,,但預測編碼的支持者一直在設法證明,,他們所主張的理論才是正確的,而且可以延伸到所有的認知領域,。


貝葉斯大腦與高效計算


大腦一直建立和評估自己對持續(xù)的實際經(jīng)歷的預測,,這一基本觀點并不總是被視為理所當然的。20世紀的主流神經(jīng)科學觀點將大腦的功能描述為一個特征探測器:大腦記錄刺激的存在,,對其加以處理,,然后發(fā)送信號來產(chǎn)生行為反應,。通過特定細胞的活動來反映真實世界中刺激是否存在。例如,,視覺皮層中的一些神經(jīng)元會對視野中物體的邊緣作出反應,,還有的神經(jīng)元的放電則會指示物體的方向、著色或陰影,。


但事實證明,,這個過程遠非看上去那么簡單。進一步的試驗發(fā)現(xiàn),,比如,,當大腦感知到一條越來越長的線時,即使線沒有消失,,針對線的探測神經(jīng)元也會停止放電,。事實上,有如此多的信息似乎通過神秘的自上而下的反饋連接來傳遞的,,這表明實際上還有其他機制在發(fā)揮作用,。


“如果大腦是一個推理機器、一個統(tǒng)計機構(gòu),,那么,,大腦也會犯下和統(tǒng)計學家同樣的錯誤?!?/span>

倫敦大學學院 Karl Friston


這就是“貝葉斯大腦”(Bayesian brain)發(fā)揮作用的地方了,,其總體框架可追溯到19世紀60年代。該理論提出,,大腦會基于內(nèi)部模型對現(xiàn)實世界進行概率性推斷,,主要是計算關(guān)于如何解釋其感知的“最佳猜測”(這個說法符合貝葉斯統(tǒng)計規(guī)則,該規(guī)則對基于先驗信息得出的事件概率進行了量化),。大腦并不是等待感官信息來推動認知,,而是始終積極地構(gòu)建關(guān)于世界運行方式的假設,并用這些假設來解釋經(jīng)驗并填補缺失的數(shù)據(jù),。根據(jù)一些專家的說法,,這就是為什么我們可能會認為感知是一種“受控制的幻覺”。


沿著這個理論,,貝葉斯大腦也解釋了為什么視幻覺會起作用:例如,,兩個點在屏幕上快速交替閃爍,看起來就像一個點來回移動,,所以我們的大腦無意識地開始像對待一個目標一樣對待它們,。理解對象如何移動是一種更高層次的知識,但它從根本上影響了我們的感知方式,。大腦只是填補某些信息的空白,,來繪制一幅不完全準確的圖片,。在本例中,就是關(guān)于運動的信息,, 


圖示為一個著名的視幻覺,,棋盤上的格子A看上去比格子B暗得多。但是,,其實二者的灰度是完全相同的,。大腦會根據(jù)附近格子的顏色和圓柱體投下的陰影位置,對棋盤的顏色做出推測,。在本例中,,這種推測會產(chǎn)生格子A和B的顏色不同的觀點,而實際上,,二者的顏色是完全相同的。(參考右圖,,將A和B連在一起即可,,若將圓柱體隱藏,看上去還會更明顯,。)


但是,,盡管生成模型和期望在大腦功能中發(fā)揮了明確的作用,科學家還沒有確切地確定這些機制在神經(jīng)回路級別上是如何發(fā)揮作用的,。蘇格蘭愛丁堡大學的心理哲學教授Mark Sprevak說:“貝葉斯大腦理論對于根本性的機制是相對不可知的,。”


輸入預測編碼理論提供了大腦如何成為“貝葉斯大腦”的特定公式,?!邦A測編碼”這個名字源于一種更有效地傳輸電信信號的技術(shù):由于視頻文件從當前幀到下一幀的過程中包含大量冗余,因此在壓縮數(shù)據(jù)時,,對每個圖像中的每個像素進行編碼是效率低下的,。反之,對相鄰幀之間的差異進行編碼,,然后進行反向處理來解釋整個視頻,,這樣就更合理。


1982年,,科學家發(fā)現(xiàn)這一理念在神經(jīng)科學中有一個很好的應用,,因為它似乎可以解釋視網(wǎng)膜中的神經(jīng)元如何編碼關(guān)于視覺刺激的信息,并將這些信息沿著視神經(jīng)進行傳播,。該理論也被作為解釋大腦獎勵系統(tǒng)運作方式的原理:即多巴胺神經(jīng)元會對預期獎勵與實際獎勵之間的不匹配度進行編碼,。研究人員表示,這些預測錯誤可以幫助動物對未來期望進行修正,,并推動其決策過程,。


盡管如此,,科學家們大多仍將預測編碼視為特定網(wǎng)絡的特定過程。不過,,功能磁共振成像測試和其他類型的實驗已經(jīng)開始改變這一觀點,。


通用框架


預測編碼假設如此引人注目,部分原因在于它具備令人難以置信的解釋力,?!拔矣X得令人信服的是,在這個理論框架中,,有不少事情都得到了解釋,,”愛丁堡大學邏輯和形而上學教授兼理論專家 Andy Clark說。


首先,,該框架在單一計算過程中統(tǒng)一了感知和運動控制,。這兩者基本上相當于同一枚硬幣的兩面:無論是感知還是運動控制,大腦都以不同的方式將預測誤差降到了最低,。對于感知來說,,就是校正了內(nèi)部模型。對于運動控制來說,,就是實際的環(huán)境,。(對于后者,可以想象一下,,比如你現(xiàn)在想要舉手,,如果這時你的手還沒有舉起來,那么這種差異就會產(chǎn)生很大的預測錯誤,。而你只要把手移動一下,,就把預測錯誤降到了最低。)



迄今為止,,在感知和運動控制方面的實驗為預測編碼理論提供了最有力的證據(jù),。例如,在上個月出版的《神經(jīng)科學期刊》上發(fā)表的一篇論文中,,實驗者讓受試者在屏幕上讀“kick”這個詞,,然后再讓他們聽失真的錄音朗讀“pick”。許多人將后者聽成了“kick”,,功能性核磁共振掃描顯示,,大腦對最初的“k”或“p”音表現(xiàn)出最強烈的反應 ,而這是與預測錯誤相關(guān)的音,。如果大腦只是表現(xiàn)出其感知體驗,,那么最強的信號應該與“ick”相對應(因為它在屏幕上和音頻中都有出現(xiàn))。


不過,有很多人在努力擴大預測編碼的應用范圍,,將其擴展至感知和動作領域之外,,視為大腦中正在發(fā)生的一切的統(tǒng)一衡量標準?!斑@就像擁有可以構(gòu)建不同策略的構(gòu)建模塊一樣,,”Clark說。不同的大腦區(qū)域只是對不同類型的預測進行交易,。


Friston等人聲稱,,這個理論也適用于更高級的認知過程,包括注意力和決策,。最近關(guān)于前額皮質(zhì)的計算工作表明,,工作記憶和目標導向行為中也存在預測編碼機制。一些研究人員推測,,情感和情緒也可以用預測編碼的術(shù)語來表達:情緒可能是大腦所表現(xiàn)出的用以實現(xiàn)內(nèi)部信號(如體溫,,心率或血壓)的預測誤差最小化的狀態(tài)。比如,,如果大腦認識到自身的情緒激動,,那么也就知道了所有這些因素都在上升。也許這也就是“自我”的概念得以出現(xiàn)的原因,。

 


幾十年來,倫敦大學學院的神經(jīng)科學家Karl Friston一直在完善預測編碼假設的關(guān)鍵原則,。他認為,,理論不僅可以解釋感知,還可以解釋更高層次的認知過程,。


以這種思路取得的大部分成果都集中在預測編碼對神經(jīng)精神系統(tǒng)和發(fā)育障礙的解釋上,。Friston說:“我認為,如果大腦是一臺推理機器,,一個統(tǒng)計機構(gòu)的話,,那么它就會犯下和統(tǒng)計學家們相同的錯誤?!币簿褪钦f,,大腦也可能會因為過于重視或過于輕視預測和預測錯誤,導致得出錯誤的推論,。


比如自閉癥的特征可能就是,,無法忽略與大腦的最低處理層級上的感覺信號相關(guān)的預測誤差。這可能導致對感覺的關(guān)注,,對重復和可預測性的需求,,對某些幻想的敏感以及其他諸多影響。而對于與精神分裂癥等幻覺相關(guān)的疾病來說,情況可能正好相反:大腦可能會過多關(guān)注自身對正在發(fā)生的事情的預測,,而對與這些預測相矛盾的感官信息關(guān)注不足,。(專家們很快就要提醒你,自閉癥和精神分裂癥太復雜了,,不能簡化為一種解釋或機制,。)


耶魯大學醫(yī)學院的臨床神經(jīng)科學家Philip Corlett說:“其中最重要的部分是向我們展示了我們的心理功能是多么脆弱?!?Corlett實驗室的實驗在健康受試者中建立了新的“信念”,,鼓勵他們對之前經(jīng)歷的刺激產(chǎn)生幻覺。 (例如,,在一項實驗中,,科學家們讓參與者將某個聲音與某個視覺圖像聯(lián)系起來。當他們看到圖像時,,即使實際上根本沒有聲音,,受試者也會繼續(xù)聽到聲音。)研究人員正試圖解開這些看法是如何轉(zhuǎn)化為感知的,。通過這些研究,,“我們認為有證據(jù)表明感知和認知并不是那么涇渭分明,”Corlett說,。 “新的看法可以通過教學獲得,,可以改變你原來的看法?!?/span>


但當時的證據(jù)還沒能證明他的結(jié)論,,而現(xiàn)在可以了。


放大細節(jié) 仔細觀察


“實驗結(jié)果經(jīng)常表明某個特定結(jié)果與預測處理理論兼容,,但該理論并不是對結(jié)果的最佳解釋,,”Sprevak說。預測處理理論在認知科學中被廣泛接受,,但“在系統(tǒng)神經(jīng)科學領域,,它仍然是個弱者?!比鹗扛ダ锏吕锵,!み~瑟生物醫(yī)學研究所的神經(jīng)科學家Georg Keller說。他的實驗室正試圖用更確鑿的證據(jù)改變這一現(xiàn)狀,。

 

弗里德里?!っ仔獱柹镝t(yī)學研究所的神經(jīng)科學家Georg Keller一直致力于揭示預測編碼假設的機制性證據(jù)。


在去年在《神經(jīng)元》期刊上發(fā)表的一項研究中,,Keller和他的同事觀察到小鼠視覺系統(tǒng)中神經(jīng)元隨著時間的推移會變得具有預測性,。這個發(fā)現(xiàn)始于一場意外,當時他們在視頻游戲中訓練老鼠,卻發(fā)現(xiàn)在虛擬世界的方向已經(jīng)亂了,。通常在實驗時,, 老鼠左轉(zhuǎn)時的視野都會向右側(cè)移動,反之亦然,。但有人無意中顛倒了研究人員在研究中使用的虛擬世界的方向,,左和右翻轉(zhuǎn)過來了,因此小鼠左轉(zhuǎn)時的視野也向左移動了,。研究人員意識到他們可以利用這次事故,。他們監(jiān)測了表現(xiàn)出這種視覺流動的大腦信號,結(jié)果發(fā)現(xiàn)隨著小鼠學習倒置環(huán)境的規(guī)則,,大腦信號也慢慢出現(xiàn)了變化,。Keller說:“這些信號看起來像是對向左方向視覺流的預測?!?/span>


如果信號只是小鼠視覺體驗的感官表現(xiàn),,那么這些信號就會立即在虛擬世界中出現(xiàn)翻轉(zhuǎn)。而如果是運動信號,,則根本不會翻轉(zhuǎn),。“實際上是識別預測,,” Keller說,。 “是對給定運動下視覺流的預測?!?/span>


“這項研究提供了一種以前未發(fā)現(xiàn)的證據(jù),,”克拉克說。 “這是一個非常局部的,,逐單元、逐層的演示,,說明預測編碼模型是目前最合適的模型,。”


“在該系統(tǒng)中發(fā)現(xiàn)預測錯誤,,并找到預測的具體內(nèi)容是很令人興奮的,,”該論文的第一作者、德國哥廷根歐洲神經(jīng)科學研究所的神經(jīng)科學家Caspar Schwiedrzik說,。


德國馬普經(jīng)驗美學研究所的研究員Lucia Melloni表示,,她的團隊逐步發(fā)現(xiàn),這類實驗結(jié)果與目前從人類收集的神經(jīng)元數(shù)據(jù)中的預測誤差的解釋一致,。


尋找更多預測機器的競賽


不是每個人都認為大腦預測編碼的理論正越來越強大,。一些科學家同意這個理論可以解釋認知的某些方面,但不同意用它來解釋一切想法。也有人甚至連前者都不同意,。對于紐約大學心理學教授David Heeger來說,,重要的是要區(qū)分“預測編碼”和“預測處理”,他認為前者關(guān)乎信息傳輸?shù)男?,他將后者定義為隨時間的推移而做出的預測,。他說:“目前的文獻中存在很多混淆之處,因為這些東西都被認為是同一種湯的一部分,。其實并不一定如此,,現(xiàn)在的方式也不一定是最佳研究方式?!北热?,其他類型的貝葉斯模型可能在某些情況下可以提供更準確的大腦功能描述。


然而,,該領域的許多專家都認為,,這項研究有可能激發(fā)機器學習的應用。目前,,絕大多數(shù)人工智能研究都不涉及預測編碼,,而是關(guān)注其他類型的算法。

但弗里斯頓認為,,在深度學習環(huán)境中制定預測編碼架構(gòu)可以使機器更接近智能,。


DeepMind的GQN就是發(fā)揮這種潛力的一個很好的例子。去年,,蘇塞克斯大學的研究人員甚至使用虛擬現(xiàn)實和人工智能技術(shù)(其中包括預測編碼特征),,打造了一臺所謂的“幻覺機器”,這種工具能夠模仿通常由迷幻藥物導致的幻覺狀態(tài),。 


通過比較預測編碼模型與其他技術(shù)的表現(xiàn),,機器學習的進步可用于提供關(guān)于大腦中發(fā)生的事情的新見解。至少,,將預測編碼引入人工智能系統(tǒng)可以明顯提高這些機器的智能水平,。


但在此之前,我們還有很多工作要做,??茖W家需要繼續(xù)進行像Keller、Schwiedrzik等人正在進行的研究,,格拉斯哥大學的神經(jīng)生理學家Lars Muckli表示,,預測性編碼“對于神經(jīng)科學來說就像是進化對生物學一樣重要”,他對完善該理論做了大量工作,。但就目前而言,,Sprevak指出,,“現(xiàn)有證據(jù)仍然不足以讓我們下定論?!?/span>


原文地址:

https://www./to-make-sense-of-the-present-brains-may-predict-the-future-20180710/




    本站是提供個人知識管理的網(wǎng)絡存儲空間,,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點,。請注意甄別內(nèi)容中的聯(lián)系方式,、誘導購買等信息,謹防詐騙,。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,,請點擊一鍵舉報。
    轉(zhuǎn)藏 分享 獻花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多