原文：《人工智能威脅人類(lèi)還有多遠(yuǎn)？》

作者：浙江大學(xué)哲學(xué)系,、語(yǔ)言與認(rèn)知研究中心   李恒威教授   王昊晟

隨著一些新科技,，諸如物聯(lián)網(wǎng)、機(jī)器人技術(shù),、虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)技術(shù),、3D打印技術(shù)、生物科技,、神經(jīng)科技,、新材料科技、納米科技,、人工智能,、自動(dòng)駕駛技術(shù)等,，在第四次工業(yè)革命時(shí)代的匯聚融合，人類(lèi)既為這些科技蘊(yùn)含的巨大的變革性力量感到振奮和鼓舞,，同時(shí)也為人類(lèi)在自己所創(chuàng)造的技術(shù)社會(huì)的角色,、地位和狀況有一種混合著現(xiàn)實(shí)與想象的擔(dān)憂、焦慮甚至恐慌,。人工智能的此輪崛興,，尤其Alpha系列的人機(jī)圍棋大戰(zhàn)，使得人們對(duì)技術(shù)的這種復(fù)雜心態(tài)變得更加突出和醒目,。

在人工智能發(fā)展史上,，研究者不止一次地表達(dá)過(guò)對(duì)人工智能威脅的憂慮，提出了像“智能爆炸”（intelligence explosion）,、“人工智能奇點(diǎn)”（AI singularity）,、“人工智能啟示錄”（AI apocalypse）這樣的理論假設(shè)。面對(duì)這些理論家的,、社會(huì)名流的以及一般公眾的各種人工智能威脅論,，我們認(rèn)為非常有必要解析各種人工智能威脅論的語(yǔ)義，對(duì)它們進(jìn)行梳理分類(lèi),。根據(jù)語(yǔ)義分析,，人們所談到的人工智能威脅大致可以分為四種類(lèi)型：工具性威脅、適應(yīng)性威脅,、觀念性威脅和生存性威脅,。

工具性威脅。工具性威脅是指,，作為人類(lèi)使用的工具，技術(shù)因其本身的缺陷或由于人類(lèi)不恰當(dāng)使用所導(dǎo)致的危害或威脅,。換句話說(shuō),，當(dāng)人工智能技術(shù)存在缺陷或者被以不正當(dāng)目的進(jìn)行利用時(shí)，它會(huì)對(duì)人類(lèi)的個(gè)體和社會(huì)的不同方面造成危害或威脅,，例如,，通常的弱人工智能系統(tǒng)可能因程序故障或人的惡意操控而造成導(dǎo)航錯(cuò)誤、電網(wǎng)癱瘓,、金融市場(chǎng)崩盤(pán)等,。這種危害或威脅意味著人工智能在與人類(lèi)的關(guān)系中處于被動(dòng)從屬地位，它并不具有自主“威脅”人類(lèi)的意圖,。

適應(yīng)性威脅,。近代以來(lái)的每一次工業(yè)革命甚至單一的技術(shù)革命都會(huì)對(duì)原有生產(chǎn)生活方式造成極大沖擊，這種沖擊往往令身處原有生產(chǎn)生活方式中的人們感到“不適應(yīng)”,。我們把這種技術(shù)變革造成的人們的不適應(yīng)稱(chēng)為適應(yīng)性威脅,。與蒸汽,、電力等其他新技術(shù)的誕生一樣，人工智能給當(dāng)下人類(lèi)社會(huì)帶來(lái)了重大變革,，也令許多人感到“不適應(yīng)”,，例如，人工智能造成的“技術(shù)性失業(yè)”甚至?xí)V泛波及高級(jí)智力勞動(dòng)者,，如翻譯,、醫(yī)生、律師等,。

觀念性威脅,。隨著人機(jī)融合技術(shù)的發(fā)展，通過(guò)各種增強(qiáng)技術(shù)——物理增強(qiáng),、生物增強(qiáng),、神經(jīng)增強(qiáng)和智能增強(qiáng)——人類(lèi)可以將人工智能嫁接乃至無(wú)縫地融合到自身的自然智能中，實(shí)現(xiàn)人機(jī)融合的智能,。這樣,，人不再是純粹自然演化意義上的生物人，而是一種人機(jī)混合物,。這種人機(jī)混合物將會(huì)對(duì)人類(lèi)自身所持有的人性觀念產(chǎn)生極大的震動(dòng),，會(huì)對(duì)人類(lèi)在自然演化意義上的歷史中形成的一整套觀念——尤其是倫理的、法律的,、教育的觀念——構(gòu)成威脅,。我們把這種人機(jī)混合的生物所造成的對(duì)人性觀念的沖擊和威脅稱(chēng)為觀念性威脅。

生存性威脅,。當(dāng)通用人工智能完全實(shí)現(xiàn),，人工智能體將會(huì)成為一種源自人類(lèi)創(chuàng)發(fā)、但卻異于且優(yōu)于人類(lèi)的獨(dú)立自主的生命形態(tài),。在人們的構(gòu)想中,，這種人工智能的生命形態(tài)具有與自然人一樣的人性構(gòu)建，即具有人所具有的完整心智（mind）,，也就是說(shuō),，它們不僅有與人類(lèi)一樣的智能系統(tǒng)、情感系統(tǒng)和意志系統(tǒng),，而且在這三個(gè)方面都有比人類(lèi)更強(qiáng)的能力,；并且人類(lèi)往往設(shè)想這種人工智能的動(dòng)機(jī)和意圖是邪惡的，它們會(huì)憑借自己的超級(jí)能力控制,、奴役甚至滅絕人類(lèi),。我們把這種人工智能的威脅稱(chēng)為生存性威脅，即一種最令人憂慮和恐懼的對(duì)人類(lèi)生存的根本威脅,！

對(duì)于一個(gè)完整的心智（mind）而言,，通常包括三個(gè)相對(duì)獨(dú)立又相互連結(jié)的系統(tǒng)——情感（情感和動(dòng)機(jī)）系統(tǒng),、意志（意志和行動(dòng)）系統(tǒng)和智能（感知和思維）系統(tǒng)。事實(shí)上,，就語(yǔ)義而言,，“威脅”“控制”等詞語(yǔ)都是規(guī)范性概念，而這種規(guī)范性的語(yǔ)義通常是由情感（情感和動(dòng)機(jī)）系統(tǒng)承載的,，而并非由智能（感知和思維）系統(tǒng)承載的,，換言之，“威脅”的規(guī)范性語(yǔ)義并不內(nèi)在于“智能”概念中,。因此,，要明確人工智能威脅論的究竟，我們就有必要辨明在上述四種威脅中人類(lèi)與人工智能在規(guī)范性上處于何種關(guān)系,。

對(duì)于工具性威脅和適應(yīng)性威脅而言,，主體都是完全生物意義上的人。在兩種威脅中,，人工智能體（或人工智能裝置,，或人工智能系統(tǒng)）都扮演著工具性的角色。雖然適應(yīng)性威脅中的人工智能體已經(jīng)成為一種改變?nèi)祟?lèi)生存環(huán)境的革命性構(gòu)成要素,，但從本質(zhì)上看,，其功能與價(jià)值同樣是由人類(lèi)賦予或決定的，并服務(wù)和滿足人的意圖,。因此,，上述兩種威脅實(shí)質(zhì)上是關(guān)于人如何使用工具的威脅。

在觀念性威脅中,，主體已不再是完全生物學(xué)意義上的人,，構(gòu)成人類(lèi)主體的方式發(fā)生了一定的變化。但這種變化是局限性的,，它增強(qiáng)的是生物人的體力,、感知力和智力，而作為行動(dòng)主體的規(guī)范性,，即生存的動(dòng)機(jī)、意圖,、目的,、感受、情感,、價(jià)值,、意義等，來(lái)源仍然是由生物意義上的人所決定的,。確切地說(shuō),，融合在生物人身上的人工智能是對(duì)生物人的智能的融合而不是對(duì)生物人的心智的融合,。從核心意義上說(shuō)，觀念性威脅仍然是人類(lèi)對(duì)人類(lèi)的威脅,。

然而,，在生存性威脅中，主體發(fā)生了根本性的改變,，從人轉(zhuǎn)移到了人工智能本身,。盡管此類(lèi)人工智能也是人類(lèi)創(chuàng)發(fā)的，但它本身卻具有獨(dú)立自主的（autonomous）心智,，因此也就有了獨(dú)立自主的動(dòng)機(jī)和情感系統(tǒng)——人工智能體將成為一種盡管是人工的,、但卻是獨(dú)立自主的、甚至超越人類(lèi)心智的主體,。在這一層面上,，生存性威脅就與前三種威脅存在質(zhì)的差別，也就是說(shuō),，生存性威脅是真正意義上人工智能對(duì)人類(lèi)的威脅,，而不僅僅是人類(lèi)因?yàn)槭褂米鳛槿祟?lèi)智能延伸的人工智能而對(duì)自身產(chǎn)生的危害或威脅。

事實(shí)上,，針對(duì)生存性威脅,，許多公眾人物，特別是科技界的知名人士都表達(dá)過(guò)自己的立場(chǎng),。以霍金,、馬斯克等為代表的支持派認(rèn)為，“人工智能未來(lái)還將發(fā)展出自己的意志——這種意志將與人類(lèi)的意志產(chǎn)生沖突,?！?/span>而扎克伯格、賈南德雷亞等所在的反對(duì)陣營(yíng)則表示,，這些威脅言論過(guò)于消極,，是極其不負(fù)責(zé)任的。在他們看來(lái),，所謂的生存性威脅并不是迫在眉睫的事情,，人們不應(yīng)當(dāng)為此感到恐慌。

無(wú)論是支持或反對(duì)生存性威脅,，都必須給出有力的支持理?yè)?jù)，否則,，相關(guān)的言論就無(wú)異于夸夸其談,，甚至是誤導(dǎo)民智的。我們認(rèn)為，如果人工智能能夠產(chǎn)生生存性威脅,，那么除了具有超級(jí)智能之外,，它還必須具有能對(duì)智能加以規(guī)范的自治的情感系統(tǒng)。但是,，從情感神經(jīng)科學(xué)的角度看,，智能系統(tǒng)并不必然蘊(yùn)含情感系統(tǒng)，相反,，情感系統(tǒng)要比智能更加古老,；而按照生物學(xué)中的自創(chuàng)生（autopoiesis）理論，情感——或者更一般地,，價(jià)值,、意義或自然目的——已經(jīng)蘊(yùn)含在最簡(jiǎn)單、最原始的生命中,，并且情感的起源也就是生命的起源,，而唯有在情感的規(guī)范性的引導(dǎo)下，智能才能發(fā)揮它的作用,。

與傳統(tǒng)神經(jīng)科學(xué)認(rèn)為新皮層的高級(jí)認(rèn)知功能對(duì)于心智發(fā)展起到?jīng)Q定性作用不同,，情感神經(jīng)科學(xué)提出了完全相反的觀點(diǎn)。美籍愛(ài)沙尼亞科學(xué)家潘克塞普（J. Panksepp）認(rèn)為,，位于新皮層下的低階腦區(qū)的情感系統(tǒng)在心智演化過(guò)程中居于首要地位,。他在《心智考古學(xué)：人類(lèi)情緒的神經(jīng)演化起源》一書(shū)中提出了嵌套的腦心層次結(jié)構(gòu)（nested BrainMind hierarchies）模型，闡明了這一觀點(diǎn),。腦心（BrainMind）是一種在演化上分層的器官,，生物的情感、學(xué)習(xí)和高級(jí)認(rèn)知能力是逐層嵌套的,，低階腦心智功能嵌入并再現(xiàn)于高階腦功能中,。在整個(gè)心智過(guò)程中，不僅存在智能等高階腦功能自上而下對(duì)情感進(jìn)行調(diào)節(jié),；更重要的是,，低階腦的情感功能可以自下而上，通過(guò)學(xué)習(xí)和發(fā)展機(jī)制,，對(duì)高階腦功能進(jìn)行引導(dǎo)與控制,。這種雙向的路徑可以被視為“循環(huán)因果作用”。因此,，心智生活的所有方面,，包括高級(jí)認(rèn)知活動(dòng)，都受到初級(jí)過(guò)程情感的影響,，并且低階心腦的整個(gè)情感系統(tǒng)是高階心智功能健康發(fā)展的基礎(chǔ)。如果離開(kāi)了腦深處的情感心智（affective mind）,，那么新皮層根本就無(wú)法取得任何成就,。

相較于潘克塞普提出情感源于原始腦系統(tǒng),，自創(chuàng)生理論的研究更進(jìn)一步。這一理論認(rèn)為,，即使在像單細(xì)胞這樣無(wú)神經(jīng)系統(tǒng)的最小形式的生命,，就已經(jīng)蘊(yùn)含了內(nèi)在目的和規(guī)范性，也就是說(shuō),，規(guī)范性的起源可以通過(guò)分析最小生命這一更基本層次來(lái)理解,。智利理論生物學(xué)家和認(rèn)知科學(xué)家馬圖拉納（H. Maturana）和瓦雷拉（F. Varela）主張，“生命——無(wú)論是最原始的生命單元（單細(xì)胞）,，還是復(fù)雜如人類(lèi)般的生命體——的本質(zhì)在于它內(nèi)含一種必須遵循和實(shí)現(xiàn)的自創(chuàng)生機(jī)制,，它是一個(gè)物質(zhì)系統(tǒng)成為生命系統(tǒng)的充分必要條件?！?/span>也就是說(shuō),，生命系統(tǒng)不僅是一個(gè)自指和遞歸的過(guò)程，更重要的是,，它是一種能夠?qū)崿F(xiàn)自我生產(chǎn)從而得以自我維持的自指和遞歸的過(guò)程,，這個(gè)過(guò)程形成了一種特定類(lèi)型的自組織系統(tǒng)，即自創(chuàng)生系統(tǒng),。自創(chuàng)生分析表明,，有機(jī)體統(tǒng)一性的持續(xù)建構(gòu)就是生命內(nèi)在的自然目的。有機(jī)體通過(guò)新陳代謝的方式維持其同一性的過(guò)程蘊(yùn)含著一種最基本的規(guī)范性,，即生與死或好與壞,。因此，規(guī)范性內(nèi)在于生命中,。如果說(shuō),，倫理、法律,、審美等是在人類(lèi)心智層面才充分表現(xiàn)出來(lái)的規(guī)范性,，那么，這是因?yàn)樗鼈冇幸粋€(gè)來(lái)自最簡(jiǎn)單生命的規(guī)范性起源,。

基于上述分析,，我們認(rèn)為，一個(gè)能夠產(chǎn)生生存性威脅的人工智能體首先必須是一個(gè)具有自治情感的生命系統(tǒng),，但就目前已知的人工智能技術(shù)而言,，生命概念并不蘊(yùn)含在其中。因此,，在這個(gè)意義上,，人工智能的生存性威脅在現(xiàn)實(shí)當(dāng)下并不可能，對(duì)它的憂慮是沒(méi)有科學(xué)理?yè)?jù)的。

當(dāng)我們重新審視人工智能的生存性威脅時(shí),，我們會(huì)發(fā)現(xiàn),，事實(shí)上這些言論都是對(duì)人工智能進(jìn)行了一種擬人的外推。所謂擬人論,，是指將人類(lèi)的特征,、情感或者意圖套用在非人類(lèi)的對(duì)象上，并用人類(lèi)的方式來(lái)理解和描述它們的行為,。具體到人工智能威脅上看,，無(wú)論是毀滅人類(lèi)世界，還是自我意識(shí)覺(jué)醒,，大眾印象中的人工智能始終被假設(shè)具有與人類(lèi)完全相同的人工心智,，或者至少是同時(shí)擁有認(rèn)知的智能系統(tǒng)和動(dòng)機(jī)的情感系統(tǒng)。只有當(dāng)人工智能被視作一個(gè)生命系統(tǒng)時(shí),，生存性威脅才能夠真正成立,。未來(lái)人工智能的發(fā)展是否可以使人工智能體成為一個(gè)完整的生命系統(tǒng)？對(duì)此,，我們持開(kāi)放的立場(chǎng),。但就目前而言，我們很難視人工智能是有生命的,，因?yàn)樗鄙俪鲎宰陨淼?、?nèi)在的、自治的規(guī)范性,。

事實(shí)上,，考慮到人工智能目前在模擬人類(lèi)智能上所遇到的瓶頸與困難，相較于憂慮,、恐懼人工智能對(duì)人類(lèi)的威脅,，尋找新的途徑、促進(jìn)發(fā)展人工智能才是當(dāng)前學(xué)界應(yīng)當(dāng)關(guān)注的首要問(wèn)題,。我們希望關(guān)于人工智能的各種威脅論可以回歸理性的軌道上,。當(dāng)然，人工智能的長(zhǎng)期發(fā)展,，或者說(shuō)通用人工智能的實(shí)現(xiàn),，無(wú)論是對(duì)于人類(lèi)的社會(huì)進(jìn)步，還是對(duì)于理解人類(lèi)自身心智大腦而言,，都將具有極為重要的積極作用,。

文章原載于社會(huì)科學(xué)報(bào)第1590期第5版，轉(zhuǎn)載請(qǐng)注明出處,，文中內(nèi)容僅代表作者觀點(diǎn),，不代表本報(bào)立場(chǎng),。