|
選自arxiv.org 機(jī)器之心編譯 參與：機(jī)器之心編輯部
摘要 在這篇論文中,，我們呈現(xiàn)了關(guān)于過去 40 年認(rèn)知架構(gòu)（cognitive architecture）研究的宏觀概述,。盡管目前已有架構(gòu)的數(shù)量已經(jīng)有數(shù)百種了，但絕大多數(shù)已有的調(diào)研都沒有反映出這種增長,，而只是重點(diǎn)強(qiáng)調(diào)了一小部分地位穩(wěn)固的架構(gòu),。雖然它們的貢獻(xiàn)是不可否認(rèn)的，但它們只能代表該領(lǐng)域研究的一部分,。因此,，在這篇調(diào)研中，我們將超越對重點(diǎn)的關(guān)注,，而將我們的范圍擴(kuò)展成對認(rèn)知架構(gòu)研究的更具包容性和高層面的概述,。我們最終的集合有 86 種架構(gòu)，其中包括 55 種仍在活躍發(fā)展的架構(gòu),，另外還從一些不同的學(xué)科（涵蓋從心理分析學(xué)到神經(jīng)科學(xué)等）中借用了一些,。為了保證本論文長度合理，我們僅討論了核心的認(rèn)知能力,，比如感知（perception）,、注意機(jī)制（attention mechanism）、學(xué)習(xí)（learning）和記憶（memory）結(jié)構(gòu),。為了評估認(rèn)知架構(gòu)的實(shí)際應(yīng)用的廣度,，我們收集了超過 700 個(gè)使用了我們列表中的認(rèn)知架構(gòu)的實(shí)際項(xiàng)目的信息。 我們使用多種可視化工具重點(diǎn)突出了該領(lǐng)域發(fā)展的整體趨勢,。我們對實(shí)際應(yīng)用的分析表明大部分架構(gòu)都非常關(guān)注于一個(gè)特定的應(yīng)用領(lǐng)域,。因此，在機(jī)器人和計(jì)算機(jī)視覺領(lǐng)域的一般研究和在認(rèn)知架構(gòu)領(lǐng)域內(nèi)的研究之間存在一個(gè)明顯的鴻溝,?？梢苑浅Ｃ黠@地看到：生物啟發(fā)的模型與基于工程原理和啟發(fā)式的系統(tǒng)相比，在范圍和效率上都不一樣,。我們觀察到的另一個(gè)情況是合作的普遍缺乏,。有幾個(gè)因素妨礙了人們的交流溝通，比如許多項(xiàng)目封閉的本質(zhì)（這里審查的架構(gòu)中僅有三分之一是開源的）和術(shù)語差異,。 1 介紹 本論文的目標(biāo)是提供關(guān)于過去 40 年認(rèn)知架構(gòu)研究的宏觀概述,，并重點(diǎn)關(guān)注了感知、注意和實(shí)際應(yīng)用。盡管認(rèn)知架構(gòu)領(lǐng)域一直以來都在穩(wěn)健地增長,，但過去 10 年來發(fā)表的大多數(shù)調(diào)研都沒有反映出這種增長,，而基本上只是關(guān)注了十幾個(gè)最成熟的架構(gòu)。上一次大規(guī)模的研究是在 2010 年由 Samsonovich et al. [1] 進(jìn)行的,，他們試圖編目已經(jīng)實(shí)現(xiàn)的認(rèn)知架構(gòu),。他們的調(diào)查包含了 54 種由它們各自的作者提交的認(rèn)知架構(gòu)。這些信息以「認(rèn)知架構(gòu)對比表」的形式發(fā)表到了網(wǎng)上（http:///cogarch/architectures.htm）,。當(dāng)然,，也還有其它認(rèn)知架構(gòu)的列表，但它們通常只是一個(gè)簡短描述加上一個(gè)項(xiàng)目網(wǎng)址或軟件庫的鏈接而已,。 由于目前還沒有詳盡的認(rèn)知架構(gòu)列表,，所以它們的準(zhǔn)確數(shù)字還是未知的，但是據(jù)估計(jì)應(yīng)該有大約 300 種左右,，而且其中至少有三分之一的項(xiàng)目目前是活躍的,。為了為我們的研究得到這份最初的列表，我們組合了其它調(diào)查（發(fā)表于最近 10 年內(nèi)）中提及的架構(gòu)以及一些大型的在線編目,。我們還包含了這些調(diào)研文獻(xiàn)未提及的最近的架構(gòu),。圖 1 展示了來自 17 個(gè)來源（調(diào)查、在線編目和谷歌學(xué)術(shù)）的 195 種認(rèn)知架構(gòu)的可視化,。很明顯可以看到 ACT-R,、Soar, CLARION、ICARUS,、EPIC,、RCS 和 LIDA 等一小部分架構(gòu)出現(xiàn)在了許多來源中，而所有其它項(xiàng)目只是在在線編目中有簡短的提及,。盡管這些主要架構(gòu)的理論和實(shí)際貢獻(xiàn)是不可否認(rèn)的,，但它們只能代表該領(lǐng)域研究的一小部分。因此,，在這篇概述中,，我們將避開對重量級架構(gòu)的特別關(guān)注（其他人已經(jīng)做了很多了），而是將對這整個(gè)領(lǐng)域進(jìn)行一次高層面的概述,。 圖 1. 來自調(diào)查,、在線編目和谷歌學(xué)術(shù)的認(rèn)知架構(gòu)的組合列表。左側(cè)的節(jié)點(diǎn)表示架構(gòu)的調(diào)查和在線編目,，右側(cè)的節(jié)點(diǎn)表示單獨(dú)的項(xiàng)目,。節(jié)點(diǎn)的厚度表示連接到該節(jié)點(diǎn)的邊（edge）的數(shù)量，即該架構(gòu)出現(xiàn)的次數(shù)（右側(cè)）或所包含的架構(gòu)的數(shù)量（左側(cè)）,。 為了使這次調(diào)研足夠可操作,，我們將原有架構(gòu)列表縮減到了 86 項(xiàng)。因此，我們重點(diǎn)是至少有一個(gè)實(shí)際應(yīng)用和多篇有同行評議的論文的已經(jīng)實(shí)現(xiàn)的架構(gòu),，我們沒有考慮一些哲學(xué)上的架構(gòu)（如 CogAff,、Society of Mind,、Global Workspace Theory,、Pandemonium theory）。我們也排除了大規(guī)模腦建模項(xiàng)目（brain modeling project）,，這是較低層面的,，不能輕易映射到由其它認(rèn)知架構(gòu)所建模的認(rèn)知能力的廣度上。另外,，許多腦模型尚還沒有任何實(shí)際的應(yīng)用,，因此也不滿足本調(diào)查的參數(shù)。圖 2 顯示了本調(diào)查給出的所有架構(gòu)和它們根據(jù)發(fā)表情況得出的大概時(shí)間表,。它們中有 55 個(gè)項(xiàng)目目前是活躍的,。 正如我們早些時(shí)候提到的，給已經(jīng)實(shí)現(xiàn)的認(rèn)知架構(gòu)創(chuàng)建一個(gè)廣泛的和有組織的編目的第一步是 [1],。這個(gè)概述包含了 26 個(gè)項(xiàng)目的擴(kuò)展描述,，其中包含的信息有：簡要概述、主要元素的原理圖,、共同組分和特征（記憶類型,、注意、意識等）,、學(xué)習(xí)和認(rèn)知發(fā)展,、認(rèn)知建模和應(yīng)用、擴(kuò)展性和局限性,。這一類的調(diào)查將一些不相交的社區(qū)的研究者聚集到了一起,，并幫助建立了這些不同方法和他們所使用的術(shù)語之間的映射。但是,，這種描述性的和表格式的格式讓我們無法對這些架構(gòu)輕松地進(jìn)行比較,。因?yàn)槲覀兊募軜?gòu)樣本很大，所以我們實(shí)驗(yàn)了可做替代的可視化策略,，例如沖積圖（alluvial diagram）和圓圖（circular diagram）,，它們常常被用于組織復(fù)雜的表格數(shù)據(jù)。這些圖的交互式版本讓我們可以探索這些數(shù)據(jù)和查看相關(guān)索引,。 在后續(xù)的章節(jié)中,，我們將提供關(guān)于認(rèn)知的定義和分組認(rèn)知架構(gòu)方法的整體概述。作為我們的貢獻(xiàn)之一,，我們會根據(jù)認(rèn)知架構(gòu)的感知模式（perception modality）,、注意的實(shí)現(xiàn)機(jī)制、記憶組織、學(xué)習(xí)類型和實(shí)際應(yīng)用對它們進(jìn)行映射,。認(rèn)知架構(gòu)的其它特征,，比如元認(rèn)知（metacognition）、意識（consciousness）和情緒（emotion）,，不在本次調(diào)查的范圍內(nèi),。在準(zhǔn)備這篇論文的過程中，我們廣泛地審閱了文獻(xiàn),，這項(xiàng)活動讓我們得到了一個(gè)包含 2000 項(xiàng)的相關(guān)發(fā)表情況的參考目錄（bibliography）,。我們提供了這份參考目錄，同時(shí)還帶有每篇論文的簡短摘要作為補(bǔ)充材料（發(fā)布地址：http://www.data.nvision2.eecs./cognitive-architecture-survey/bib_html/index.html） 2 什么是認(rèn)知架構(gòu),？ 認(rèn)知架構(gòu)是通用人工智能（general AI）的一個(gè)研究分支,，它起源于 20 世紀(jì) 50 年代，其目標(biāo)是創(chuàng)建能夠解決不同領(lǐng)域問題的程序,、培養(yǎng)洞察力,、能自己適應(yīng)新情況并做出反應(yīng)。同樣,，認(rèn)知架構(gòu)研究的最終目標(biāo)是實(shí)現(xiàn)人類水平的人工智能,。根據(jù) Russell 和 Norvig [2]，這樣的人工智能可以以四種不同的方式實(shí)現(xiàn)：像人類一樣思考的系統(tǒng),，能理性思考的系統(tǒng),，像人類一樣行動的系統(tǒng)，以及能理性行動的系統(tǒng)?，F(xiàn)有的認(rèn)知架構(gòu)已經(jīng)探索了所有四種可能性,。例如，像人類一樣的思想是源于認(rèn)知模型的架構(gòu)所追求的,。因此,，只要智能系統(tǒng)造成的錯(cuò)誤如同相似情況下人類通常做出的錯(cuò)誤，則它們的錯(cuò)誤是可以容忍的,。這與理性思維系統(tǒng)相反,，理性思維系統(tǒng)需要為任意任務(wù)作出一致和正確的結(jié)論。像人類一樣行動的機(jī)器和理性行動的機(jī)器之間的區(qū)別也與之相似,。在后兩種情況中,，機(jī)器并不期望能像人類一樣思考，我們關(guān)注的只是它們的行動或反應(yīng),。 圖 2 此次調(diào)查的 86 種認(rèn)知架構(gòu)的時(shí)間表,。每條線對應(yīng)一個(gè)認(rèn)知架構(gòu)。認(rèn)知架構(gòu)按照開始日期排序,，因此最老的認(rèn)知架構(gòu)在圖的最下部,。由于只明確知道幾個(gè)項(xiàng)目的開始和結(jié)束日期,，因此我們按照項(xiàng)目網(wǎng)頁的發(fā)布和活動日期還原了時(shí)間表。顏色對應(yīng)于不同類型的架構(gòu)：symbolic（符號式,，綠色）,，emergent（層創(chuàng)式，紅色）和 hybrid（混合式,，藍(lán)色）,。 然而，由于認(rèn)知沒有明確的定義和一般理論,，每個(gè)架構(gòu)都是基于不同的前提和假設(shè),，使得比較和評估不同的認(rèn)知架構(gòu)變得困難,。幾篇論文試圖解決這種不確定性,，最著名的是 Sun 對認(rèn)知架構(gòu)的期望 [3] 和 Newell 的實(shí)用性標(biāo)準(zhǔn)（最初發(fā)表在論文 [4] 和 [5] 中，后來重新被 Anderson 和 Lebiere 提及 [6]）,。Newell 的標(biāo)準(zhǔn)包括靈活的行為,、實(shí)時(shí)操作、理性,、海量知識庫,、學(xué)習(xí)能力、發(fā)展能力,、語言能力,、自我意識和大腦覺悟。Sun 的期望更廣泛,，包括生態(tài),、認(rèn)知和生物進(jìn)化現(xiàn)實(shí)主義、適應(yīng)性,、模塊化,、常規(guī)化和協(xié)同互動。除了定義標(biāo)準(zhǔn),，并把它們應(yīng)用到認(rèn)知架構(gòu)的范圍,，Sun 也指出，明確界定認(rèn)知的假設(shè)和方法存在缺失,，這種缺失阻礙了智能研究的進(jìn)展,。他也提到了關(guān)于基本二分法（essential dichotomy）（隱式/顯式，程序化/聲明化等）,、模塊化認(rèn)知和結(jié)構(gòu)化記憶,，存在一種不確定性。但是,，快速瀏覽一下這些已有的認(rèn)知架構(gòu)就可以發(fā)現(xiàn),，這些架構(gòu)在研究目標(biāo),、結(jié)構(gòu)、操作和應(yīng)用方面長久存在分歧,。 圖 3 1973 至 2016 年間,，活躍的符號式（symbolic）、層創(chuàng)式（emergent）和混合式（hybrid）架構(gòu)的可視化,。在圖上顯示了同時(shí)活躍的項(xiàng)目的最大數(shù)量,。 相比于為智能尋求一個(gè)特定的定義，也許將智能定義為一個(gè)系統(tǒng)所體現(xiàn)的能力和行為的集合更為實(shí)際,。雖然不存在一個(gè)智能所要求的能力的綜合列表,，但一些已經(jīng)被認(rèn)可的寬泛的方向也許可以作為目前認(rèn)知架構(gòu)領(lǐng)域工作的指導(dǎo)。例如,，Adams 等 [7] 提議了 14 個(gè)方向,，分別是感知、記憶,、注意,、社會交互、規(guī)劃,、動機(jī),、驅(qū)動、推理,、交流,、學(xué)習(xí)、為自身/他人建模,、建造/創(chuàng)造以及算術(shù)能力（perception, memory, attention, social interaction, planning, motivation, actuation, reasoning, communication, learning, emotion, modeling self/other, building/creation and arithmetic abilities.）,。這些可以進(jìn)一步劃分為更小的領(lǐng)域?？梢哉f,，其中一些類別也許看起來比其他的更重要，且歷史上也受到更多關(guān)注,。比如,，根據(jù) Metzler 和 Shea[8]，在近期認(rèn)知架構(gòu)的發(fā)表中最常被提到的認(rèn)知功能僅包括感知,、學(xué)習(xí),、推理、決策,、計(jì)劃和行動,。 然而，即使在一個(gè)單一架構(gòu)中僅實(shí)現(xiàn)一個(gè)縮減的功能集合,，也是一個(gè)任務(wù)繁重的工程,。因此,，目前只有一小部分架構(gòu)（如：Soar, ACT-R, NARS [9], LIDA [10]）和幾個(gè)最近的項(xiàng)目（SiMA [11] 和 OpenCogPrime [12]）在追求通用人工智能（Artificial General Intelligence，AGI）,。其他架構(gòu)則專注某一特定的認(rèn)知功能,，例如注意（ARCADIA [13], STAR [14]）、情緒（CELTS [15]）,，對稱感知（認(rèn)知對稱引擎（Cognitive Symmetry Engine）[16]）或者問題解決（FORR [17], PRODIGY [18]）,。還有一些為特定應(yīng)用設(shè)計(jì)的專門的架構(gòu)，比如為平面視覺檢測設(shè)計(jì)的 ARDIS[19],，以及為音樂理解和分類設(shè)計(jì)的 MusiCog[20],。 使得一個(gè)軟件系統(tǒng)能夠被稱為認(rèn)知架構(gòu)的標(biāo)準(zhǔn)也鮮被強(qiáng)調(diào)。大多數(shù)綜述寬泛地定義認(rèn)知架構(gòu)為智能的一個(gè)藍(lán)圖,，更具體地,，是一個(gè)關(guān)于心智表征以及運(yùn)行在這些表征之上的計(jì)算過程的設(shè)想，它們使得一定范圍內(nèi)的智能行為成為可能（[21], [22], [23], [24], [25]）,?？偟膩碚f，新的認(rèn)知架構(gòu)不需要包括已有的認(rèn)知架構(gòu),，例如 Soar，ACT-R,，EPIC,，LIDA，ICARUS 等,。然而,，當(dāng)它并不是那么常見或是一個(gè)全新的項(xiàng)目時(shí)，我們并不知道考慮現(xiàn)有的這些認(rèn)知架構(gòu)是否必要,。舉個(gè)例子,，AKIRA 是一個(gè)明顯的不能自我統(tǒng)一地認(rèn)為其是一個(gè)認(rèn)知架構(gòu) [26]，但是它的特性仍然被很多綜述提及 [27],。類似的,，知識庫 Cyc [28] 從未對任何通用智能有所聲稱，卻仍然在一篇論文中被總結(jié)為一個(gè) AGI 架構(gòu) [29],。 Larid [30] 討論了認(rèn)知架構(gòu)與其他軟件系統(tǒng)有何不同,。雖然它們都有記憶存貯、控制部件,、數(shù)據(jù)表示和輸入/輸出設(shè)備,，但其它軟件系統(tǒng)只提供了一個(gè)用于一般計(jì)算的固定模型。而認(rèn)知架構(gòu)則必須隨著發(fā)展而改變,，并且高效地運(yùn)用知識完成新的任務(wù),。此外,，他認(rèn)為用工具包（toolkit）和框架（framework）建立的代理（agent）架構(gòu)也不能被當(dāng)做認(rèn)知架構(gòu)，因?yàn)樗鼈內(nèi)狈碚撝С?。這是一個(gè)相當(dāng)嚴(yán)格的條件,，除了 Soar 和 ACT-R，只有很少的架構(gòu)能夠符合這個(gè)要求,。這一觀點(diǎn)在綜述論文里也不常見,，通常代理架構(gòu)和用來建造它們的工具包也會被包括在內(nèi)。例如,，代理架構(gòu) 3T,、PRS 和 ERE 被包括在了 [31] 內(nèi)；Pogamut,，一個(gè)用于建立智能代理的框架,，也被包含在了 [1] 中。 最近,，谷歌（DeepMind）聲稱深度學(xué)習(xí)能夠「解決人工智能（solving AI）」,。類似地，F(xiàn)acebook 人工智能研究實(shí)驗(yàn)室（FAIR）及其它一些公司也在這個(gè)方向上活躍地進(jìn)行研究,。這些研究在認(rèn)知架構(gòu)方面具有怎樣的地位呢,？在目前，深度學(xué)習(xí)一些最廣為人知的成就包括用于自動駕駛汽車的視覺處理（Mobileye）和谷歌的能夠下圍棋 [32] 和玩多種視頻游戲 [33] 的神經(jīng)網(wǎng)絡(luò),。 另一方面,，DeepMind 發(fā)表的論文（沒有在媒體上打廣告）涵蓋了范圍很廣的主題。比如說,，許多論文都致力于與循環(huán)神經(jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)相關(guān)的理論問題,。此外，神經(jīng)網(wǎng)絡(luò)也被用來構(gòu)建復(fù)雜的視覺注意和記憶（visual attention and memory）模型,，比如：一種用于識別圖像中多個(gè)對象（如門牌號序列）的基于注意的模型 [34],。記憶（memory）在深度學(xué)習(xí)領(lǐng)域具有特殊的重要性，因?yàn)闉榱藢ふ液屠脭?shù)據(jù)中的復(fù)雜模式,，網(wǎng)絡(luò)應(yīng)該要能執(zhí)行鏈?zhǔn)降捻樞蛴?jì)算,。但是，在深度網(wǎng)絡(luò)中,，來自過去的計(jì)算的信息會受到新信息的影響,。網(wǎng)格式長短期記憶（Grid Long Short-Term Memory/Grad LSTM）通過提供一種動態(tài)式選擇或忽略輸入的方式而解決了這個(gè)問題，從而可以在學(xué)習(xí)過程中保留重要的記憶 [35],。 整體上看,，DeepMind 的研究解決了人工智能領(lǐng)域里一些重要的問題，比如自然語言理解,、感知處理,、通用學(xué)習(xí)和用于評估人工智能的策略,。盡管特定的模型已經(jīng)證明了在有限領(lǐng)域內(nèi)的認(rèn)知能力，但目前它們還無法代表一種統(tǒng)一的智能模型,。 和 DeepMind 不一樣,，F(xiàn)acebook 的研究團(tuán)隊(duì)是在開發(fā)智能機(jī)器的更廣闊的語境中明確討論他們的成果 [36]。他們的主要觀點(diǎn)是：人工智能是在太復(fù)雜了,，以至于不能一次性開發(fā)出來,，而是應(yīng)該首先定義智能的通用特征。他們已經(jīng)定義出了兩個(gè)智能的通用特征：交流（communication）和學(xué)習(xí)（learning）,，并且還提出了一個(gè)逐漸發(fā)展它們的具體的路線圖,。這個(gè)方向的第一步是人工生態(tài)系統(tǒng)（artificial ecosystem，或稱「幼兒園」）,，其被提出用于教育智能代理（intelligent agent）,，從而強(qiáng)調(diào)了這個(gè)過程的發(fā)展性本質(zhì)。他們的計(jì)劃是從更簡單的模擬環(huán)境開始,，然后逐漸增加其復(fù)雜度,，直到最后它能夠?qū)⑷斯ご砗驼鎸?shí)世界連接起來。鑒于這種對交流和學(xué)習(xí)的強(qiáng)調(diào),，這種智能機(jī)器的一種主要應(yīng)用就是電子助理,。作者承認(rèn)類似的想法在過去已經(jīng)得到過嘗試（如，常被符號架構(gòu)用于學(xué)習(xí)的 Blocks World 模擬）,，但它們都過于依賴于其創(chuàng)造者所提供的數(shù)據(jù),。 目前沒有文獻(xiàn)提及這樣的系統(tǒng)，但 FAIR 追求的研究主題與其人工智能展望也與各家公司的商業(yè)利益相一致,。常見的相關(guān)話題包括可視化處理，特別是分割和目標(biāo)探測,、數(shù)據(jù)挖掘,、自然語言處理、人機(jī)交互和網(wǎng)絡(luò)安全,。目前深度學(xué)習(xí)技術(shù)主要用于解決實(shí)際問題,，并不代表一個(gè)統(tǒng)一框架，所以不包括在此次調(diào)查的范圍內(nèi),。當(dāng)然,，鑒于深度學(xué)習(xí)的潛力，這一方法將來可能會在認(rèn)知架構(gòu)中發(fā)揮作用,。 對于其他架構(gòu),，我們定義了以下選擇標(biāo)準(zhǔn)，努力實(shí)現(xiàn)包容和一致：自我識別作為認(rèn)知,，機(jī)器人或代理架構(gòu),，已有實(shí)現(xiàn)（不必是開源的）,，以及用于感知、注意和學(xué)習(xí)的機(jī)制,。為了進(jìn)一步縮小調(diào)查的范圍,，我們需要至少存在同行評審的論文和應(yīng)用，而不能只有簡單的演示,。但為包括一些仍在開發(fā)中的新架構(gòu),，其中的部分條件得到了放寬。 3 認(rèn)知架構(gòu)的分類 過去十年發(fā)表的許多論文提出的多是認(rèn)知架構(gòu)的評估而非分類,。像之前提到的,，Newell 的標(biāo)準(zhǔn)和 Sun's Desiderata 就屬于評估這一類。相似的,，Langley 等人將認(rèn)知架構(gòu)的能力,，性能和評估標(biāo)準(zhǔn)定義成一個(gè)綜合的列表。認(rèn)知能力的建議集合包括識別,，作出決定,，感知，預(yù)測,，計(jì)劃,，行動，交流和學(xué)習(xí),。為了評估構(gòu)架,，提出了例如通用性，多能性,，自主性的標(biāo)準(zhǔn),。與此同時(shí)，Vernon 等人列出了比較認(rèn)知和浮現(xiàn)式方法的 12 個(gè)特征,，包括體現(xiàn),，感知，行為,，適應(yīng),，動機(jī)，自主化和其他,。相似的,，Asselman 等人則通過 7 個(gè)標(biāo)準(zhǔn)（認(rèn)知，記憶,，學(xué)習(xí),，模塊化，目標(biāo)設(shè)定，基本模型和解決問題）評估構(gòu)架,。Thorisson 和 Helgasson 基于 4 個(gè)標(biāo)準(zhǔn)（實(shí)時(shí)操作,，學(xué)習(xí)，注意和元學(xué)習(xí)）來決定自主化的水平,。 許多標(biāo)準(zhǔn)可以被用來劃分架構(gòu),，但它們應(yīng)用在一般的構(gòu)架時(shí)會顯得過于細(xì)致。因此,，基于它們表現(xiàn)出的信息加工的種類來劃分認(rèn)知架構(gòu)是更為常見的方法,。三個(gè)分類方法被稱作：符號式（認(rèn)知主義），層創(chuàng)式（聯(lián)結(jié)主義）,，混合式,。這種基于信息加工的分類方法被 Duch 等人 [21] 拓展到含每個(gè)類別的典型記憶和學(xué)習(xí)性能（[38], [39])）。 符號式系統(tǒng)通常在一系列可用于表現(xiàn)世界的真相的符號中作為 if-then rules（也被稱作 production rules）執(zhí)行,。因?yàn)樗侵R的一種自然而直觀的表達(dá)方式,。符號式操作十分普遍。盡管經(jīng)過設(shè)計(jì),，但符號式系統(tǒng)在計(jì)劃和推理方面有優(yōu)勢,，而在被要求處理變化的環(huán)境和感知過程時(shí)缺乏靈活性和堅(jiān)固性。 層創(chuàng)式方法通過建立大量的并行模型,，類比神經(jīng)網(wǎng)絡(luò)（此處信息流是通過從輸入節(jié)點(diǎn)的信號波及表現(xiàn)的）解決了上述問題,。但是，這樣的系統(tǒng)也喪失了它的透明性,。因?yàn)橹R不再是一系列符號化的實(shí)體而是分布在網(wǎng)絡(luò)中,。因而同樣，傳統(tǒng)意義上的推理在層創(chuàng)式架構(gòu)中存在問題,。 自然地,，每個(gè)范例都有著它的優(yōu)缺點(diǎn)。例如,，任何符號式架構(gòu)都需要大量的工作去建立一個(gè)初始的知識基礎(chǔ),。但一旦它建立好，整個(gè)架構(gòu)就會變得十分有效,。而另一方面，層創(chuàng)式架構(gòu)更容易設(shè)計(jì),，但它們必須經(jīng)過訓(xùn)練才能完成有效的動作,。更重要的是，它們的已存在網(wǎng)絡(luò)可能會因?yàn)榻酉聛韺W(xué)習(xí)的新行為而被摧毀,。 由于沒有任何一個(gè)范式（paradigm）可以單獨(dú)處理全部的人工智能問題,，混合架構(gòu)試圖結(jié)合符號式和層創(chuàng)式兩種元素。總的來說,，兩者如何混合沒有一個(gè)明確的限制,，但有的方法更加直觀且易于執(zhí)行。例如,，CLARION 基于不同知識類型有不同的表現(xiàn)形式：明確的事實(shí)知識用符號式,，程序中暗含的知識用亞符號式 [40]。4CAPS 將傳統(tǒng)的符號式生產(chǎn)系統(tǒng)用聯(lián)結(jié)主義的計(jì)算機(jī)制：如閾值,、激活,、權(quán)重和并行處理來詮釋 [41]。這種混合方式被 Duch 等人 [21] 稱作符號式聯(lián)結(jié)主義（symbolicconnectionist）,。同時(shí)他們也定義了一種替代的地區(qū)性分布方法,。后者很好的例子就是 Leabra，它在學(xué)習(xí)不變事物的檢測時(shí)用到了標(biāo)簽的地方主義（localist）表征和特征的分布式表征 [42],。在 [43] 中,，這兩種混合式的表征被分別稱作平行和垂直的整合。一個(gè)混合聯(lián)結(jié)主義-符號化模型的更為細(xì)致的分類方法在 [44] 中呈現(xiàn),。 圖 4：Duch et al. 在 [21] 中提出的分類方式,； 圖 5：Sun 在 [45] 中提出的分類方式； 圖 6：Gray 在 [46] 中提出的分類方式 有趣的是,，層創(chuàng)式架構(gòu)只在最近時(shí)期才獲得更多的比重,，盡管這一方向的研究至少與傳統(tǒng)人工智能一樣活躍。例如 Langley 等人 [22] 在他們的調(diào)查中沒有加入聯(lián)結(jié)主義模型,，因?yàn)樗麄儧]有發(fā)現(xiàn)這一架構(gòu)與符號模型和混合模型相同的功能,。 考慮到混合方式的優(yōu)點(diǎn)，這樣的架構(gòu)有最高的增長趨勢便不足為奇了（圖 3）,。所以,，我們的數(shù)據(jù)證明了 Duch 等人 [21] 在 10 年前的預(yù)測。 文獻(xiàn)資料中仍沒有多少其他的分類方法,。Sun[47]（圖 5）的方案強(qiáng)調(diào)模塊化和模塊之間的通信,。然而，遵循此類方法需要所有架構(gòu)的實(shí)現(xiàn)方式細(xì)節(jié),，這些信息經(jīng)常不能獲得,。其他分類方案也很具體，如 Gray[46] 提出的方案,，其重點(diǎn)在于架構(gòu)的目的及使用,。 因此，在本次研究中,，我們遵循符號,、層創(chuàng)和混合架構(gòu)的傳統(tǒng)區(qū)分方式。由于我們介紹的架構(gòu)的背景跨越從哲學(xué)到神經(jīng)生物學(xué)的廣泛研究領(lǐng)域，我們不會試圖創(chuàng)立一個(gè)單一的體系來適應(yīng)它們,。我們不會對每一個(gè)認(rèn)知功能分別進(jìn)行討論,，而是以功能（即：感知、注意,、記憶和學(xué)習(xí)）進(jìn)行分類的討論,。我們從發(fā)表情況中提取了數(shù)據(jù)，并按頻率進(jìn)行了分組,。 4. 感知 圖 7 顯示了認(rèn)知架構(gòu)的感知通道（sensory modalities）,。該架構(gòu)分成三組： 符號式（綠色），層創(chuàng)式（紅色）和混合式（藍(lán)色）,，位于圖底端,。圖中其他部分對應(yīng)不同的感知通道，包括視覺,、聽覺,、觸覺、嗅覺和本體感覺,。這個(gè)感知分類還包含了不對應(yīng)任何人類感官的多種感知,。「符號輸入」類別表示的是認(rèn)知架構(gòu)中的輸入只限于文本形式,，或者需要通過 GUI,。這不包括文本輸入模擬音頻、視覺或其他類型的信息,。圖中每個(gè)大類別扇形中的帶表示的是這些感知通道的子類別（例如視覺類別下包括 Kinect,、單眼相機(jī)、模擬等）,。感知通道與架構(gòu)之間的條形是用來表示它們之間的連接,。如果一個(gè)架構(gòu)控制多個(gè)感官，條形就越不透明,。每個(gè)認(rèn)知架構(gòu)的感知方式列表都帶有相關(guān)文獻(xiàn),，被包括在補(bǔ)充材料和圖形的互動版本中。 5. 注意 圖 8 顯示了認(rèn)知架構(gòu)中不同類型的注意,。 6. 記憶 圖 9 顯示了認(rèn)知架構(gòu)中不同類型的短期記憶（STM）和長期記憶（LTM） 7. 學(xué)習(xí) 圖 10 顯示了認(rèn)知架構(gòu)中的學(xué)習(xí)機(jī)制,。 8. 認(rèn)知架構(gòu)的應(yīng)用 本論文中的回顧的大部分認(rèn)知架構(gòu)都是研究工具幾乎很少被開發(fā)到學(xué)界之外的應(yīng)用。然而,，還是可以討論一下他們的實(shí)際應(yīng)用的,，因?yàn)椴煌榫诚掠杏玫男袨楸徽J(rèn)為是許多認(rèn)知結(jié)構(gòu)的目標(biāo)。 徹底研究過這些發(fā)表的論文后,，我們使用 86 個(gè)認(rèn)知架構(gòu)確定了 700 多條 project，如圖 11 顯示。所有的應(yīng)用都可以劃分到幾個(gè)大組（group）中,，即人類表現(xiàn)建模（human performance modeling,，HPM）、游戲和拼圖（puzzles）,、機(jī)器人,、心理學(xué)實(shí)驗(yàn)，自然語言處理和其他雜項(xiàng),，還包括了不屬于任何大組的項(xiàng)目,，它們由于太少所以無法獨(dú)立成大組。這樣的分組強(qiáng)調(diào)了每個(gè) project 的應(yīng)用,，即便每個(gè)研究者有不同的目的,。 一些應(yīng)用可能會被劃分到多個(gè)組。例如,，裝上一只機(jī)器手臂的 Soar 一直被用來玩棋盤游戲,，這就同時(shí)關(guān)涉到機(jī)器人、游戲和拼圖以及心理學(xué)實(shí)驗(yàn),。為了避免讓這張圖過于復(fù)雜,，在這些案例中我們只將 project 放在了主要的組中考慮，在 Soar 的例子被劃為游戲,，因?yàn)樗跈C(jī)器人上的應(yīng)用并不是很大,，而且心理學(xué)實(shí)驗(yàn)組主要是使用 ACT-R 的 fMRI 實(shí)驗(yàn)。 人類表現(xiàn)模型（HPM） 人類表現(xiàn)模型是一個(gè)與建立某個(gè)特定任務(wù)環(huán)境中的人類表現(xiàn)的量化模型相關(guān)的研究領(lǐng)域,。這些模型主要用于幾個(gè)工程領(lǐng)域,，在這些領(lǐng)域中，設(shè)計(jì)可能性的空間非常大,，導(dǎo)致實(shí)證的評估方式不可行或者成本太高,。 這種建模類型一直用于軍事應(yīng)用，例如,，Apache 直升機(jī)機(jī)組人員的負(fù)荷分析,，戰(zhàn)場感知中通信任務(wù)的影響建模 [230]，AAW 領(lǐng)域的決策制定 [231] 等等,。普通的民用包括空中交通管制任務(wù)的模型（例如,，COGNET[232]）, 飛機(jī)滑行失誤 [233]，911 調(diào)度員 HPM 用的是少數(shù)專用架構(gòu),，包括 OMAR,、 APEX、COGNET,,、MIDAS 和 IMPRINT,。Soar 在大規(guī)模分布式軍事模擬戰(zhàn)中用于部署某個(gè)飛行員模型
例如,，導(dǎo)航中會用到一個(gè)機(jī)器人，無論是從推理上還是作為某個(gè)學(xué)習(xí)算法的演示,，它都會被歸為機(jī)器人組,。唯一的例外是心理學(xué)試驗(yàn)組，其中還包括心理社會學(xué),、fMRI 和 EEG 試驗(yàn),。這個(gè)組中的 project 是由認(rèn)知架構(gòu)執(zhí)行的，用于與人類數(shù)據(jù)對比的特定的心理實(shí)驗(yàn)（例如倒數(shù) n 任務(wù),、調(diào)節(jié)或注意的盲目性）,。游戲和拼圖類別包括不同領(lǐng)域中的棋盤游戲、視頻游戲,、拼圖和邏輯推理的應(yīng)用,。HPM 對關(guān)于機(jī)組人員（aircraft crew）、核電站的操作員以及執(zhí)行其他復(fù)雜任務(wù)的人的建模很有用,，例如電話接線員和空中交通運(yùn)維人員,。大部分自然語言處理應(yīng)用都關(guān)涉到對說出或打出來的命令的理解，也與社交機(jī)器人有關(guān),。然而該組中也有一些 project 用于意義排歧和句子整體意義理解的,。 人機(jī)交互（HRI） HRI 是研究人與機(jī)器人對話中不同方面的多學(xué)科領(lǐng)域。這些互動大部分都發(fā)生在社交式的,、輔助式的或發(fā)展式的機(jī)器人語境中,。根據(jù)機(jī)器人的自動化水平，互動可以擴(kuò)展到從直接控制機(jī)器人（遙控）到其完全自動化的任務(wù)中,，實(shí)現(xiàn)人機(jī)對等合作,。雖然該項(xiàng)研究中的系統(tǒng)還沒有一個(gè)能達(dá)到完全自動化的水平，但它們可以實(shí)現(xiàn)一定程度上的監(jiān)控,，從用單韻母表示機(jī)器人的運(yùn)動方向 [SASE236] 到自然語言指令（例如 Soar[237],，HOMER[88]、iCub[238]）,。通常的假設(shè)是,，一個(gè)命令有一個(gè)特定的形式，而且使用的詞匯有限,。 某些架構(gòu)也用于 HRI 的非口語（non-verbal）方面,，例如對話的自然輪轉(zhuǎn)（Ymir[239]，Kismet[240],，改變面部表情（Kismet [241]）或者轉(zhuǎn)向護(hù)理機(jī)器人（MACsi[242]）,。 圖 11. 認(rèn)知架構(gòu)的實(shí)際應(yīng)用圖。這些架構(gòu)被分成了三組：符號式（綠色）,、層創(chuàng)式（紅色）和混合式（藍(lán)色）,。應(yīng)用被分成了代表不同領(lǐng)域的組,。其中每一個(gè)應(yīng)用都是使用了一種認(rèn)知架構(gòu)實(shí)現(xiàn)的特定項(xiàng)目，并且還得到了相關(guān)論文,、軟件或視頻演示的支持,。其中不包括僅有部分結(jié)果或?qū)嵨锬Ｐ偷捻?xiàng)目。另外,，涉及與該架構(gòu)中其它部分隔開的特定算法的例子也沒有被包括進(jìn)來?？梢暬褂?http://www. (http://www./) 完成,。關(guān)于每種認(rèn)知架構(gòu)的應(yīng)用列表及相關(guān)索引可見于補(bǔ)充材料中，也可以在該圖的交互式版本中查看,。 自然語言處理（NLP） 這一組的應(yīng)用是關(guān)于理解書面語言和口頭語言,。盡管使用現(xiàn)成的軟件來進(jìn)行語音識別和文本解析對認(rèn)知架構(gòu)來說很常見，但也有一些架構(gòu)為 NLP 研究做出了貢獻(xiàn),。特定的例子包括：照明分辨率（Polyscheme [243],，NARS [244]，DIARC [245]）,、語音識別基準(zhǔn)（Sigma [246],，[247]，SASE [248]）和學(xué)習(xí)英語被動語態(tài)（NARS [244]）,。 歸類和聚類（Categorization and Clustering） 歸類（categorization）,、分類（classification）、模式識別和聚類是從大數(shù)據(jù)集中提取概括信息（general information）的常見方式,。在認(rèn)知架構(gòu)的背景中,，這些方法可被用于處理嘈雜的感官數(shù)據(jù)。這一組的應(yīng)用幾乎完全都是用層創(chuàng)式架構(gòu)（emergent architectures）實(shí)現(xiàn)的,，比如 ART 和 HTM,，它們被用作是復(fù)雜的神經(jīng)網(wǎng)絡(luò)。尤其是 ART 網(wǎng)絡(luò)已經(jīng)在范圍廣泛的領(lǐng)域的分類問題上得到了應(yīng)用,，包括電影推薦（Netflix 數(shù)據(jù)集 [249]）,、醫(yī)療診斷（Pima-Indian 糖尿病數(shù)據(jù)集 [250]）、錯(cuò)誤診斷（氣動系統(tǒng)分析 [251]）,、元音識別（Peterson and Barney 數(shù)據(jù)集 [252]）,、氣味識別 [253] 等等。HTM 架構(gòu)面向時(shí)序數(shù)據(jù)分析（analysis of time series data）,，例如預(yù)測 IT 故障（grokstream.com）,、監(jiān)測庫存（numenta.com/htm-for-stocks）、預(yù)測出租車乘客需求 [254] 和基于按鍵模式識別手機(jī)使用類型（電子郵件,、電話等等）[255],。 一些非層創(chuàng)式架構(gòu)（non-emergent architecture）的例子包括根據(jù)追蹤套裝識別手勢（Ymir [256]）,、電信網(wǎng)絡(luò)故障診斷（PRS [257]）和基于關(guān)于作者和引用的信息分類文檔（OpenCogPrime [258]）。 計(jì)算機(jī)視覺 這一新興的認(rèn)知架構(gòu)也被應(yīng)用于解決典型的計(jì)算機(jī)視覺問題,。目前只有一些獨(dú)立的例子,，例如筆記特征識別（HTM[259],[260]）、圖像分類基準(zhǔn)（HTM[261],[262]）,、視角無關(guān)性字母識別（ART[263]）,、紋理分類基準(zhǔn)（ART[264]）、不變目標(biāo)識別（Leabra[265]）,，等,。計(jì)算機(jī)視覺的的應(yīng)用經(jīng)常是任務(wù)處理的一部分，如機(jī)器人導(dǎo)航,，這在本論文的相關(guān)章節(jié)也有談及,。 游戲和解謎 該分類內(nèi)的應(yīng)用包括棋盤游戲、視頻游戲以及解決有限領(lǐng)域內(nèi)的難題,。簡單的包含重疊旗子的棋盤游戲如井字棋,，八數(shù)碼和五數(shù)碼問題經(jīng)常被用來證明知識遷移（例如 Soar[227]，F(xiàn)ORR[266]）,。 視頻游戲也是認(rèn)知架構(gòu)應(yīng)用的虛擬領(lǐng)域,。在最受歡迎的游戲《虛幻競技場 2004》（UT2004）中有一個(gè)開源工具包 Pogamut[267] 可以自由創(chuàng)建智能的虛擬角色。另外,，它還有許多同類型的競爭者,，玩家們在這些游戲中不僅需要關(guān)注得分和效率，同時(shí)也得保持與游戲中虛擬角色的關(guān)系（2K BotPrize Contest7）,。Pogamut 不僅 實(shí)現(xiàn)了很多認(rèn)知功能,，它還是 BotPrize 比賽推薦的軟件，可以經(jīng)過修改實(shí)現(xiàn)更多的特性（[268], [269], [270], [271], [271], [272]）,。其他的此類游戲包括《Freeciv（REM [273]）》,，《Atari Frogger II（Soar [274]）》，《Infinite Mario（Soar[275]）》,，網(wǎng)頁端游戲（Star[276]）和一些定制游戲,。 心理實(shí)驗(yàn) 心理實(shí)驗(yàn)的應(yīng)用是使用認(rèn)知架構(gòu)的多種心理生理學(xué)研究，包括 fMRI 和 EEG 實(shí)驗(yàn),。此類實(shí)驗(yàn)利用認(rèn)知架構(gòu)可以對人類指標(biāo)進(jìn)行數(shù)字化建模,，或?qū)π睦憩F(xiàn)象給出合理的解釋。如果由模擬產(chǎn)生的數(shù)據(jù)在一些或大多數(shù)方面與人類數(shù)據(jù)匹配,，則說明給定認(rèn)知架構(gòu)可以模仿人類生理機(jī)制,。隨后，認(rèn)知模型可以用于對不同情況下的行為進(jìn)行預(yù)測或進(jìn)一步分析，最后可幫助人們對已知現(xiàn)象背后的心理機(jī)制進(jìn)行解釋,。 大多數(shù)實(shí)驗(yàn)在模擬環(huán)境中進(jìn)行,，盡管在實(shí)體機(jī)器人中也存在一些例子（例如，在 DarwinVII 機(jī)器人上的感知分類模型 [181]）,。 機(jī)器人 在機(jī)器人中,，認(rèn)知架構(gòu)有許多應(yīng)用。導(dǎo)航和避障是基礎(chǔ)的行為,，對機(jī)器人自身有幫助,，也可作為更復(fù)雜行為的一部分，比如輔助機(jī)器人,。 在機(jī)器人早期研究中,，做雜務(wù)是非常的流行的用來有效證明機(jī)器人能力的方式。一些著名的樣例包括垃圾收集移動機(jī)器人（3T [277]）,、蘇打罐收集機(jī)器人（Subsumption [278]）。通過結(jié)合簡單的視覺技術(shù)（比如邊緣檢測和模板匹配）和傳感器技術(shù)（導(dǎo)航）,，這些機(jī)器人能夠在未知環(huán)境中發(fā)現(xiàn)感興趣的目標(biāo),。 最近的認(rèn)知架構(gòu)傾向于分開解決搜索和目標(biāo)操控任務(wù)。典型的,，有的實(shí)驗(yàn)是在可控環(huán)境中完成視覺搜索,，對明亮顏色或者可識別的形狀的喜好可用來最小化視覺處理任務(wù)。有時(shí)會使用到標(biāo)記（markers）,，比如將條形碼附屬到目標(biāo)上進(jìn)行更輕松的識別（Soar[279]）,。需要主要的是，這些案例中的視覺搜索通常是更復(fù)雜任務(wù)的一部分,，比如通過指令進(jìn)行學(xué)習(xí),。在視覺搜索和定位是最終目標(biāo)時(shí)，環(huán)境更為真實(shí)（例如,，通過傳感器和 SIFT 特征的結(jié)合,，CoSy 控制機(jī)器人在書架上找到一本書 [280]）。 目標(biāo)操控涉及到控制機(jī)械臂觸碰并抓?。╮each and grasp）目標(biāo),。雖然觸碰是相對簡單的一個(gè)問題，且許多架構(gòu)部署不同形式的機(jī)械臂控制,，在模擬環(huán)境中抓緊目標(biāo)卻更具挑戰(zhàn)性,。抓取的復(fù)雜性由多種因素決定，包括抓手的類型,、目標(biāo)的特性,。一種變通方案是用軟體目標(biāo)進(jìn)行試驗(yàn)，比如毛絨玩具（ISAC [281]）,。近期的研究涉及到通過 DIARC [282], [282]控制的機(jī)器人證明可以抓取不同類型的目標(biāo)（在頂部或邊緣有抓手的目標(biāo)）,。另一個(gè)例子是 iCub[283] 根據(jù)抓取瓶罐的大小,、抓取的箱子和直尺等不同目標(biāo)進(jìn)行適應(yīng)。 其他應(yīng)用包括機(jī)器人銷售員,、教師,、醫(yī)療機(jī)器人等。工業(yè)應(yīng)用由單個(gè)架構(gòu) 4D-RCS 所代表,，已經(jīng)被遠(yuǎn)程控制的吊機(jī)機(jī)器人 [284],、架橋機(jī)器人[285]、自動清洗和去毛刺工作站機(jī)器人[286]和美國郵局自動郵票分發(fā)中的機(jī)器人[287]等使用,。 虛擬代理 模擬和虛擬現(xiàn)實(shí)總是被頻繁用為物理化身的替代,。例如，在軍事領(lǐng)域,，危險(xiǎn)情境下軍人的模擬模型行為不會對身體造成傷害,。其他例子包括在自殺式炸彈襲擊場景中建模代理（CoJACK [73]）、維和部隊(duì)訓(xùn)練（MAMID [190]）,、在復(fù)雜的城區(qū)地形的指令和控制（RCAST[288]）,、坦克戰(zhàn)模擬（CoJACK[289]）。 在民用領(lǐng)域,，模擬建模智能代理的行為也非常常見,。虛擬環(huán)境的一個(gè)優(yōu)勢是它能提供關(guān)于代理任意時(shí)間點(diǎn)的狀態(tài)信息。這對學(xué)習(xí)臨場情感影響非常有幫助,，例如在社交環(huán)境（ARS/SiMA[290]）或?qū)W習(xí)場景中,，比如與虛擬的狗狗玩耍（Novamente[291]）。 9 討論（略） 參考文獻(xiàn)見下載論文 本文由機(jī)器之心編譯,，轉(zhuǎn)載請聯(lián)系本公眾號獲得授權(quán),。 ------------------------------------------------ 加入機(jī)器之心（全職記者/實(shí)習(xí)生）：[email protected] 投稿或?qū)で髨?bào)道：[email protected] 廣告&商務(wù)合作：[email protected]
|
|
|
