文：夏濱 | 壹心理專(zhuān)欄作者

這絕對(duì)不是一篇科普文章,，只是和你閑扯 ?

阿爾法狗（AlphaGo）再虐李世石,，2：0中盤(pán)再勝，我們已經(jīng)來(lái)不及計(jì)算李世石的心理陰影面積了......

小時(shí)候經(jīng)常會(huì)做些白日夢(mèng),，比如長(zhǎng)大后汽車(chē)會(huì)在天上飛不用地上跑,，有很多自動(dòng)化的家電，動(dòng)動(dòng)手指就能控制,，機(jī)器人滿(mǎn)大街都是,，而且他們可以做人類(lèi)所有的事。（等下,，所有的嗎,？那要人類(lèi)干什么？）那個(gè)時(shí)候「建設(shè)四個(gè)現(xiàn)代化」就是最高指示呀,，似乎四個(gè)現(xiàn)代化了一切都完成了,。

時(shí)光荏苒，如今的科技進(jìn)步已經(jīng)接近進(jìn)化的節(jié)奏了,，很多夢(mèng)想過(guò)的,、沒(méi)夢(mèng)想過(guò)的，都飄到面前,，而機(jī)器人這一項(xiàng)也逼近想像的極限,。

圍棋被認(rèn)為是世界上最復(fù)雜的棋盤(pán)游戲，也是唯一的一種人腦能戰(zhàn)勝電腦的棋類(lèi),?？墒乾F(xiàn)在恐怕我們?nèi)祟?lèi)不太敢肯定確定以及一定地說(shuō)出這句肯定句了,。

2016年3月9日，谷歌公司的AlphaGo與韓國(guó)圣手李世石的圍棋大賽第一戰(zhàn),，人腦以3目之差失去與人工智能第一回合,，全球嘩然；3月10日,，AlphaGo再次獲勝,。

不僅讓人想起圍棋大師吳清源曾用一句話(huà)來(lái)抒發(fā)心情，“200歲后我要在宇宙下棋,。”圍棋大師留下的一句感慨令人遐想：浩瀚宇宙中人類(lèi)未來(lái)將走向何方,？

我想起2015年出過(guò)一部英國(guó)神劇『真實(shí)的人類(lèi)』（Humans），當(dāng)時(shí)看的人目瞪口呆,、膽戰(zhàn)心驚,。故事其實(shí)并不復(fù)雜，講了在未來(lái)的某個(gè)時(shí)間,，機(jī)器人的應(yīng)用已經(jīng)非常廣泛,，那是一個(gè)機(jī)器人Synth被繁忙都市人廣泛使用的世界，機(jī)器人僅僅作為簡(jiǎn)單的勞動(dòng)力出現(xiàn),，它不再是人類(lèi)的「延長(zhǎng)手臂」,，它成為人類(lèi)生活中的伙伴，它們可以代替人的工作,，它們可以代替人的性生活,，它們甚至可以成為人的伴侶，那個(gè)時(shí)代呈現(xiàn)出人類(lèi)與機(jī)器人的界限愈發(fā)模糊,，很多時(shí)間里人類(lèi)本身已經(jīng)分不清哪些是在和人一起,、哪些是和機(jī)器一起，于是富有情感的人類(lèi)開(kāi)始恐慌,，而缺乏情感的機(jī)器人卻在尋找怎樣擁有情感,。那個(gè)世界充滿(mǎn)了扣人心弦的矛盾沖突、心理沖擊與道德拷問(wèn),。

01

機(jī)器人真的會(huì)撒謊嗎,？

在本次人機(jī)世紀(jì)大戰(zhàn)中，圣手李世石的開(kāi)局搶占先機(jī)非常漂亮,，而AlphaGo卻顯的很笨拙甚至可以說(shuō)是比較低級(jí),，中段在李世石看似已經(jīng)迎來(lái)最后勝利的時(shí)候，AlphaGo還下過(guò)非常低段位的棋招,。于是,，大家有些陷入迷思：機(jī)器人AlphaGo是故意的嗎？這是一種迷惑對(duì)手的戰(zhàn)術(shù)嗎？

捎一句,，『真實(shí)的人類(lèi)』里的機(jī)器人已經(jīng)會(huì)掩飾思想和撒謊了,，雖然還只是極少數(shù)的機(jī)器人。

1950年,，圖靈發(fā)表了一篇?jiǎng)潟r(shí)代的論文,，文中預(yù)言了創(chuàng)造出具有真正智能的機(jī)器的可能性。由于注意到“智能”這一概念難以確切定義,，他提出了著名的圖靈測(cè)試：如果一臺(tái)機(jī)器能夠與人類(lèi)展開(kāi)對(duì)話(huà)（通過(guò)電傳設(shè)備）而不能被辨別出其機(jī)器身份，那么稱(chēng)這臺(tái)機(jī)器具有智能,。圖靈測(cè)試是人工智能哲學(xué)方面第一個(gè)嚴(yán)肅的提案,。

1952年，在一場(chǎng)BBC廣播中,，圖靈談到了一個(gè)新的具體想法：讓計(jì)算機(jī)來(lái)冒充人,。如果不足70%的人判對(duì)，也就是超過(guò)30%的裁判誤以為在和自己說(shuō)話(huà)的是人而非計(jì)算機(jī),，那就算作成功了,。

這一幕在電影『機(jī)械姬』里被重現(xiàn)，而影片的最后也同樣顯示了人類(lèi)對(duì)于機(jī)器人進(jìn)化的恐懼,，機(jī)械姬最后干掉了驕傲的人類(lèi),。

記得圖靈測(cè)試?yán)镉行У囊豁?xiàng)測(cè)試，就是不停地問(wèn)對(duì)方同一個(gè)問(wèn)題,，比如：你是你媽生的嗎,？問(wèn)很多很多遍，如果對(duì)方總是不緩不慢地回答你同一個(gè)答題,，那么多半對(duì)面坐著的是一個(gè)機(jī)器了,。

02

機(jī)器人為什么要撒謊？

機(jī)器人真的會(huì)撒謊嗎,？我覺(jué)得很有可能噢,。

人工智能領(lǐng)域一直有一個(gè)很著名的機(jī)器人阿西莫夫三定律，是1942年阿西莫夫在短篇小說(shuō)"Runaround"（《環(huán)舞》）中首次提出：

一 機(jī)器人不得傷害人類(lèi),，或因不作為使人類(lèi)受到傷害,。

二 除非違背第一定律，機(jī)器人必須服從人類(lèi)的命令,。

三 除非違背第一及第二定律,，機(jī)器人必須保護(hù)自己。

但后來(lái),，阿西莫夫加入了一條新定律：第零定律,。

零 機(jī)器人不得傷害人類(lèi)整體，或因不作為使人類(lèi)整體受到傷害。

阿西莫夫的科幻設(shè)定里,，機(jī)器人三定律是植入到近乎所有機(jī)器人軟件底層里,，不可修改不可忽視的規(guī)定，絕不僅僅是“建議”或者“規(guī)章”,。

不過(guò),，這三條定律的缺陷、漏洞和模糊之處不可避免會(huì)導(dǎo)致一些奇怪的機(jī)器人行為,。比方說(shuō),，這三條定律連何為“人”、何為“機(jī)器人”都沒(méi)有良好定義,。而且,，如果機(jī)器人獲取的信息不完整，它們完全可以無(wú)意中打破定律,。更何況,，你要怎么阻止一個(gè)智力超群的機(jī)器人自己把定律改掉呢？它只需要調(diào)整“人”的定義就可以了,，根本都不用改變底層規(guī)則,。

你要問(wèn)，那么它為什么要改呢,？這個(gè)問(wèn)題其實(shí)和機(jī)器人為什么要撒謊一樣,。

人為什么要撒謊？很簡(jiǎn)單,，為了謀求利益呀,，不管是物質(zhì)利益，精神利益,，關(guān)系利益,，還是心理平衡，都是有利益目標(biāo)的,，否則這種讓自己可能產(chǎn)生認(rèn)知失調(diào)的事,，誰(shuí)愿意干啊。

機(jī)器人會(huì)有利益訴求嗎,？如果是超人工智能的,，我覺(jué)得就有可能啊。其實(shí),，AlphaGo想要贏得棋局就是一種利益訴求,，只不過(guò)它是被人類(lèi)置入的?？墒沁@么一個(gè)高智能的機(jī)器,，人類(lèi)舍得只置入這一個(gè)單一訴求嗎,？更何況AlphaGo還有自己學(xué)習(xí)和進(jìn)化的能力，當(dāng)它被置入越來(lái)越多的訴求,，通過(guò)自我學(xué)習(xí)和進(jìn)化,，你能預(yù)測(cè)它會(huì)發(fā)生什么樣的變化嗎？恐怕這種感覺(jué)就和上帝當(dāng)年看著突然直立行走的人類(lèi)是一樣的感覺(jué)吧,。

03

人類(lèi)真的會(huì)敗在情緒嗎,？

我突然想起來(lái)近幾年日本在進(jìn)行一個(gè)用機(jī)器人代替情感撫慰者的研究，他們模擬出各種情感反應(yīng)語(yǔ)句和姿態(tài),，可是最難的是如何讓機(jī)器人捕捉人類(lèi)的情緒,，并且做出帶有情緒的反應(yīng)。最后他們還沒(méi)弄成,。

OH~我松了口氣,，心理咨詢(xún)師看樣子一時(shí)半會(huì)兒是不能被機(jī)器人代替了（我怎么這么小農(nóng)思想呢你說(shuō)）。

作為一種人工智能系統(tǒng)AlphaGo擁有兩個(gè)大腦,，落子選擇器 （Move Picker）和棋局評(píng)估器 （Position Evaluator）。這也基于兩個(gè)深度神經(jīng)網(wǎng)絡(luò),，policy network與value network,。二者極大地降低了需要考慮的搜索空間的復(fù)雜度，前者降低搜索的廣度,，后者降低搜索的深度,，很像人腦在下圍棋時(shí)憑直覺(jué)快速鎖定策略的思維?！凹狭?000萬(wàn)種職業(yè)棋手的下法,，數(shù)百萬(wàn)次深度學(xué)習(xí)與自我對(duì)戰(zhàn)，十分接近帶著直覺(jué)和第六感的人類(lèi)大腦,，能以57%的概率預(yù)測(cè)與其對(duì)陣人類(lèi)的水平,。”

據(jù)比賽分析師認(rèn)為,，李世石在掌握了棋局大好形勢(shì)的情況下,，就是情緒出現(xiàn)了波動(dòng)，失去了進(jìn)一步推進(jìn)勝局的優(yōu)勢(shì),，并被AlphaGo逆轉(zhuǎn)翻盤(pán)的,。

關(guān)于人工智能，李開(kāi)復(fù)有過(guò)這樣的描述：

「雖然這些機(jī)器確實(shí)很“聰明”,，而且又高效,、勤奮、低廉,，但是他們并不“人性化”,，只是冷冰冰的機(jī)器和工具,。比如說(shuō)，AlphaGo第一場(chǎng)就戰(zhàn)勝了李世石,，但是它不會(huì)感覺(jué)高興,，也不會(huì)理解我們對(duì)于它的討論。甚至,，它說(shuō)不上這局棋是怎么贏的,。因?yàn)椋乃伎茧m然周密,，但是它不懂“贏了有什么感受,？”，也不懂“為什么圍棋好玩”,，更不懂“人為什么要下棋,？”，甚至連“你今天怎么贏的,？”都說(shuō)不上,。今天的機(jī)器完全無(wú)法理解人的情感、喜怒哀樂(lè),、七情六欲,、信任尊重、價(jià)值觀等方面 ,。對(duì)于人文藝術(shù),、美和愛(ài)、幽默感,，機(jī)器更是絲毫不懂,。」

人類(lèi)有著天然強(qiáng)大的情緒大腦,，我們會(huì)將很多的情緒體驗(yàn)“編譯”成特定代號(hào)存儲(chǔ)在我們的情緒大腦里,，然后非常迅速地做出反應(yīng)，比如恐懼,、比如厭惡,，這大大節(jié)省了我們大腦的處理資源?？上нz憾的地方就是,，因?yàn)檠杆偎运筒荒苣敲淳_，它會(huì)是一種相對(duì)模糊的代碼,，所以我們瞅到井邊的麻繩會(huì)迅速逃開(kāi),。

在復(fù)雜運(yùn)算方面，人類(lèi)已經(jīng)遠(yuǎn)遠(yuǎn)落在了機(jī)器后面,，不過(guò)在情感連接,、模糊互動(dòng),、甚至潛意識(shí)的聯(lián)動(dòng)上，機(jī)器似乎很難進(jìn)化到這個(gè)階段,。情緒之所以常常會(huì)影響到我們的能力發(fā)揮,，甚至?xí)绊懙绞ナ掷钍朗陌l(fā)揮，很大一部分是因?yàn)槲覀兇鎯?chǔ)的“編譯”情緒的內(nèi)核往往是和負(fù)性情緒相關(guān),，人類(lèi)七種主要情緒“喜怒憂(yōu)思悲恐驚”大部分是相對(duì)負(fù)性的,，這可能源于我們進(jìn)化的需要，保護(hù)自己的生存首先需要的是防守,。

不過(guò),，這些負(fù)性情緒同樣也是力量的來(lái)源，比如憤怒產(chǎn)生攻擊的力量,，憂(yōu)傷產(chǎn)生思考和防御的力量,，恐懼產(chǎn)生逃跑的力量，這些力量往往會(huì)調(diào)動(dòng)人類(lèi)的潛能,，遠(yuǎn)遠(yuǎn)超出自我的想像,，而機(jī)器的力量是特定的，可計(jì)算的,，在競(jìng)爭(zhēng)中可計(jì)算的對(duì)手常常會(huì)處于劣勢(shì),，甚至被毀滅。從這個(gè)角度看,，人類(lèi)情緒的不可預(yù)測(cè)性，也許恰恰是進(jìn)化出來(lái)的一種絕妙的競(jìng)爭(zhēng)武器,。

可以這么說(shuō),，現(xiàn)在的人工智能似乎只有一個(gè)超強(qiáng)左腦，它遠(yuǎn)遠(yuǎn)沒(méi)有一個(gè)變幻右腦加以輔助和調(diào)控,，沒(méi)有右腦的參與,，即使是撒謊，那也只能算是程序BUG,。

人工智能機(jī)器真正可能給人類(lèi)帶來(lái)的危機(jī),，不是奴役或取代人類(lèi)，而是讓人類(lèi)喪失斗志,，安于現(xiàn)狀,，或者喪失勇氣，放任自流,。因?yàn)闄C(jī)器可能無(wú)知無(wú)覺(jué)地調(diào)動(dòng)了我們?nèi)祟?lèi)情緒大腦里不安的因素,，并且發(fā)揮著情緒大腦帶給我們負(fù)性意義。

那將是：人類(lèi)敗給了人類(lèi)自己,。

[ 補(bǔ)記 ] 昨天和幾個(gè)同行朋友在網(wǎng)上閑聊到人工智能的發(fā)展和人類(lèi)的危機(jī),，不知道為什么,，我突然卻有了一種樂(lè)觀的欣然。人類(lèi)之與機(jī)器的區(qū)別,，是個(gè)體相交的基礎(chǔ)是關(guān)系,，并不是分析；個(gè)體互動(dòng)的關(guān)鍵是情感互動(dòng),，并不是話(huà)術(shù)對(duì)答,。如果說(shuō)有一天機(jī)器人把這些都學(xué)會(huì)了（如果真可以），那它就是一個(gè)人了,，我們又何必懼怕,，既然我們都是人只不過(guò)你數(shù)理化好一點(diǎn)罷了，Who怕Who,？人搞人我們最在行了,，我們?nèi)祟?lèi)歷史上靠的是知識(shí)多少嗎，是運(yùn)算速度嗎,，如果只是靠硬件,，是就沒(méi)毛爺爺什么事了。

不怕不怕,，告訴你吧,，我們?nèi)祟?lèi)人工智能技術(shù)發(fā)展的目標(biāo)其實(shí)是：把它丫的變成“人”，讓它們和我們一樣受盡人間疾苦,。

真到那時(shí),，我在心理咨詢(xún)室里接診的第一個(gè)機(jī)器人來(lái)訪者，可能就是因?yàn)椤盀槭裁次医K于能愛(ài)人類(lèi)的她了,，她怎么甩了我呀,？我好痛苦，腫么辦,？”

原題：機(jī)器人會(huì)叛亂嗎 | 人機(jī)大戰(zhàn)的思考

夏濱

喜歡琢磨的心理咨詢(xún)師

生活文藝范兒,，工作專(zhuān)業(yè)范兒。蝸居杭州專(zhuān)心做咨詢(xún),，認(rèn)真做講師,。