人們常常問我，媲美人類的人工智能（AI）會不會終將具有意識,。我的回答是：你想讓它具備意識嗎,？我認(rèn)為，機器人能否醒來,，主要由人類說了算,。 這聽著有些狂妄。在神經(jīng)科學(xué)領(lǐng)域,，意識的機制——我們?yōu)槭裁磳κ澜缂白晕耶a(chǎn)生一種清晰而直接的體驗——是一個未解之謎,。有人認(rèn)為，這個謎團(tuán)永遠(yuǎn)無法解開,。用客觀的科學(xué)方法來解釋人的主觀體驗,，這似乎是不可實現(xiàn)的。 但自從人類開始認(rèn)真研究意識以來,，在25年左右的時間里,，我們已經(jīng)取得了長足的進(jìn)步。我們發(fā)現(xiàn)了與意識相關(guān)的神經(jīng)活動,，對需要意識覺知的行為任務(wù)有了更清晰的了解,。在潛意識層面，人腦就能完成很多高級別的認(rèn)知任務(wù),。 智能,、意識、認(rèn)知  我們可以試探性地得出結(jié)論：意識并不是認(rèn)知的必要副產(chǎn)物,。人工智能應(yīng)該也是如此,。在很多科幻故事中，機器僅僅因為其本身的復(fù)雜性,，就自然而然地發(fā)展出了意識,，但更有可能的情況是，AI的意識要靠人類來設(shè)計,。
從科學(xué)與工程學(xué)方面講,，這樣做有著充分的理由。我們對意識的無知就是原因之一,。在18和19世紀(jì),，工程師們沒等物理學(xué)家厘清熱力學(xué)定律，就制造了蒸汽機,。當(dāng)下亦如是,。圍繞意識展開的爭論往往充滿太多的哲學(xué)色彩，繞來繞去,，卻始終沒有看得見,、摸得著的結(jié)果,。而作為一個研究人工智能意識的小社群，我們的目標(biāo)是從實踐中學(xué)習(xí),。 另外,，意識肯定有它的重要功能，否則,，它也不會被進(jìn)化出來,。這種功能自然也能為AI所用。在這個方面,，我們或許也被科幻故事誤導(dǎo)了,。對小說和電視里的AI來說，意識是一種詛咒,。它們表現(xiàn)出不可預(yù)測的有意行為,，而且人類的結(jié)局往往不是很好。 但在現(xiàn)實世界中,，這類反烏托邦幻想真正出現(xiàn)的概率很低,。AI即便帶來風(fēng)險，也不太可能與意識有關(guān),。恰恰相反，有意識的機器也許還能幫助人類,，參與管控AI技術(shù)的沖擊,。相較于沒有思維的自動機器，我更愿意與有意識的AI共享世界,。 AlphaGo對弈世界圍棋冠軍李世乭的時候,，很多專家就看不懂AlphaGo的棋路。他們想得到某種解釋,，理解它每一手棋背后的動機和理由,。此類狀況在現(xiàn)代AI領(lǐng)域較為常見，因為這些AI決策不是由人類預(yù)先編程的,，而是從學(xué)習(xí)算法和訓(xùn)練數(shù)據(jù)集中“涌現(xiàn)”出來的,。正是因為這種高深莫測，人們開始擔(dān)心AI決策不公,，或是太過武斷,，而且現(xiàn)在也確實出現(xiàn)了算法歧視的案例。 從明年開始,，歐盟公民將依法得到“解釋權(quán)”,。對于一個AI系統(tǒng)為何作出某個決定，人們有權(quán)要求相關(guān)部門作出審核,。這一新規(guī)定對技術(shù)的要求很高,。目前,，考慮到當(dāng)代神經(jīng)網(wǎng)絡(luò)的復(fù)雜性，我們還很難厘清AI的決策過程,，更不用說將其轉(zhuǎn)化為人類能夠理解的語言了,。 意識，它究竟是個什么東西,？ 既然我們搞不懂AI的意圖,，何不直接去問AI？我們可以賦予其元認(rèn)知能力——即報告內(nèi)心想法的內(nèi)省能力,。這種能力是意識的主要功能之一,。神經(jīng)科學(xué)家在檢測人類或動物是否具有意識覺知時，尋找的就是這種自省能力,。 舉個例子,，自信是元認(rèn)知的基本形式之一，隨著意識體驗變得不斷清晰,，自信也會逐漸增強,。當(dāng)我們的大腦在沒有“注意”的情況下處理信息時，我們會對那些信息不太確定,；而在意識到某種刺激時,，我們就會體驗到高度的自信：“我絕對看到了紅色！” 任何小型計算機,，只要預(yù)編了統(tǒng)計公式,，就都可以對自信作出估算，但還沒有哪臺機器具備像人一樣完整的元認(rèn)知能力,。一些哲學(xué)家和神經(jīng)科學(xué)家想完善這樣一種理念：元認(rèn)知是意識的本質(zhì),。 而所謂的“高階意識理論”認(rèn)為，意識體驗是取決于感官狀態(tài)這種一階表征的二階表征,。我們知道一個東西的時候,，也知道我們知道這個東西。反過來,，要是缺乏這種自我覺知,，我們就是無意識的；我們將不知不覺地接受感官輸入,，作出相應(yīng)行動,，不會有任何覺知。 這些理論為我們構(gòu)建有意識的AI指出了一些方向,。我和同事們正試著在神經(jīng)網(wǎng)絡(luò)中推行元認(rèn)知,，這樣一來，它們彼此之間就能溝通自己的“想法”,。我們稱這個項目為“機器現(xiàn)象學(xué)”,，它借用了哲學(xué)中的現(xiàn)象學(xué)說法,，通過對意識體驗的系統(tǒng)性自省，來探究意識的結(jié)構(gòu),。 為避免多此一舉地教AI用人類語言來表達(dá),，目前，我們的項目側(cè)重于訓(xùn)練AI,，使之發(fā)展出自己的語言,，用于彼此之間交流各自的內(nèi)省式分析。這些分析包括AI對任務(wù)完成方式的說明,。這在現(xiàn)有基礎(chǔ)上更進(jìn)了一步——目前的機器只能就任務(wù)的結(jié)果展開交流,。 至于機器如何編碼這些說明，我們并不作具體規(guī)定,；在訓(xùn)練過程中,，神經(jīng)網(wǎng)絡(luò)會發(fā)展出一種機制，對成功的交流進(jìn)行“獎勵”,。我們還想進(jìn)一步升級,，在人類與AI之間建立溝通渠道，這樣,，我們就可以要求AI給出解釋了,。 除了賦予我們某種程度的自我理解，意識還幫我們實現(xiàn)了神經(jīng)科學(xué)家恩德爾·圖文（Endel Tulving）所謂的“心理穿越”,。在預(yù)測自身行動的后果或規(guī)劃未來時,，我們是有意識的。不用真的揮舞雙手,，我就可以想象揮舞雙手是什么感覺。當(dāng)我人還坐在客廳的沙發(fā)上時,，腦子里就可以勾勒出去廚房泡杯咖啡的情景,。 其實，我們對當(dāng)下的感知也是意識所構(gòu)建起來的,。這在各種實驗和案例研究中都有體現(xiàn),。有一些認(rèn)知障礙患者，他們的視覺皮層受損,，導(dǎo)致物體識別出現(xiàn)障礙,，無法說出物體的名稱。 但是,，這些人卻可以伸手抓住物體,。若給他們一個信封，他們完全知道如何拿住它,，然后塞入信箱,。但如果研究人員先向受試者展示信封,，過一段時間之后，再讓他們?nèi)ツ眠@個信封,，受試者便無法完成“拿信封”這個動作,。 由此可見，意識并不涉及復(fù)雜信息的處理本身,；只要有某種刺激物能即刻觸發(fā)行動,，我們就不需要意識。當(dāng)我們需要將感官信息多維持幾秒的時候,，它才會發(fā)揮作用,。
 在一類特殊的心理學(xué)條件反射實驗中，意識在“穿越”過程中發(fā)揮的重要作用也得到了體現(xiàn),。這是一種經(jīng)典的條件反射實驗,，實驗人員將一種刺激物（比如向眼瞼吹氣，或是電擊手指）與另一種毫不相關(guān)的刺激物（比如某個純音調(diào)）匹配起來,。 受試者無需有意識地努力,，就能自然而然地將兩者對應(yīng)起來。一聽到音調(diào),，他們就會不由自主地縮頭,，怕被吹氣。而當(dāng)實驗人員問他們?yōu)楹螘绱藭r,，他們卻無法解釋,。不過，只有當(dāng)兩種刺激同時發(fā)生時,，這種下意識的行為才會發(fā)生,。 若實驗人員延遲第二種刺激，那么受試者只有在意識到這種關(guān)系之后,，才會將兩者聯(lián)系到一起——也就是說,，他們要能夠告訴實驗人員：聽到音調(diào)，就意味著待會兒要被吹氣,。受試者似乎必須有所覺知,，才能在刺激消失之后，將記憶維持下去,。 AI能夠有意識嗎,？ 這些例子說明，意識的功能之一,，就是拓展我們面向世界的“時間窗”——將當(dāng)下延展開來,。在刺激消失之后，我們的意識覺知會將感官信息保留一段時間，其間保留它們的靈活性和可用性,。當(dāng)直接感官輸入消失之后,，人腦會持續(xù)催生這種感官的表征。 意識所具有的這種延時性可以在實踐中得到檢驗,。弗朗西斯·科里克（Francis Crick）和克里斯托夫·科赫（Christof Koch）提出,，視覺輸入中，只有很小一部分被大腦用來規(guī)劃未來的行動,。如果規(guī)劃是意識的關(guān)鍵功能,，那么，只有這部分輸入才能與意識掛鉤,。 上述例子有一個共同的主題,，那就是反事實信息的生成。它指的是對那些并不直接在我們眼前的事物產(chǎn)生感官表征,。說它“反事實”是因為,，它涉及對過去的回憶，或是對尚未執(zhí)行的未來行動的預(yù)測,，而不是外部世界正在發(fā)生的一切,。用“生成”一詞是因為，它不僅限于信息的處理,，同時也是一個創(chuàng)建假設(shè)與測試假設(shè)的活躍過程,。 在人腦中，感官輸入從低級別的腦區(qū)流向高級別腦區(qū)（又稱單向或前饋過程）,，逐步被壓縮為更抽象的表征,。但神經(jīng)生理學(xué)研究表明，這種前饋過程不論多么復(fù)雜,，都與意識體驗無關(guān),。要產(chǎn)生意識，你需要的是從高級別腦區(qū)流向低級別腦區(qū)的“反饋”過程,。 通過反事實信息的生成,，有意識的施動者就可以脫離環(huán)境，進(jìn)行非反射式的行為,，比如，停三秒再行動,。要生成反事實信息,，我們需要一個能夠掌握統(tǒng)計規(guī)律的內(nèi)部模型。這類模型可以用于多種用途,，諸如推理,、電機控制和心理模擬。 我們的AI已經(jīng)具備復(fù)雜的訓(xùn)練模型,，但要依賴人類提供學(xué)習(xí)數(shù)據(jù),。而借助反事實生成,，AI將能生成自己的數(shù)據(jù)，能自己設(shè)想未來可能出現(xiàn)的情境,。這樣,，它們就能靈活應(yīng)對前所未遇的新狀況。AI也將因此產(chǎn)生好奇心,。如果不確定未來將是何種狀況,，它們就會試著去想辦法。  有時候我們都覺得,，我們創(chuàng)造的AI施動者已經(jīng)出乎我們的意料,。在一項實驗中，我們模擬了能夠在現(xiàn)實環(huán)境中駕駛卡車的AI施動者,。要讓這些施動者爬坡,，我們通常必須將“爬坡”設(shè)置為目標(biāo)，然后由施動者找出最佳路線,。 而一旦被賦予好奇心,，無需人類指示，施動者就能主動將山坡識別為問題,，繼而找出爬坡方式,。我們?nèi)匀恍枰M(jìn)一步的工作，才能讓自己相信,，這的確是一項創(chuàng)新,。 如果將內(nèi)省和想象作為意識的兩大組成部分，乃至主要部分,，那么最終,，我們將不可避免地構(gòu)想出一個有意識的AI，因為很明顯,，這些功能對任何機器都有助益,。我們希望我們創(chuàng)造出的機器能夠解釋它們的工作方式，以及它們的每一步意圖,。構(gòu)建這些機器需要人類發(fā)揮自己的想象力,。這也將成為對意識所具備的反事實能力的終極檢驗。
本文作者金井良太是一名神經(jīng)科學(xué)家與AI研究人員,。他是東京初創(chuàng)企業(yè)Araya的創(chuàng)始人兼CEO,。
翻譯：雁行 來源：nautil.us |
|
|
