陳培浩：當(dāng)機(jī)器人開(kāi)始寫(xiě)詩(shī) 

——花城微課第5期文字實(shí)錄

主持人：大家好,！歡迎來(lái)到花城微課第五期，今天我們很榮幸地請(qǐng)到了陳培浩老師為我們做微課活動(dòng),，今天的主題是：當(dāng)機(jī)器人開(kāi)始寫(xiě)詩(shī),，下面有請(qǐng)陳老師為大家講課。

大家好,，今天的環(huán)境比較特別,，在一個(gè)封閉的房間當(dāng)中來(lái)跟大家聊這么一個(gè)話題。我們知道,，人與人之間的交流如果面對(duì)面的話可能更有感覺(jué)一點(diǎn),。至少對(duì)我來(lái)說(shuō)，站了多年講臺(tái),，如果面對(duì)一群人,，那種感覺(jué)很快就會(huì)到來(lái)。但現(xiàn)在自己面對(duì)一個(gè)手機(jī)屏幕,，總會(huì)感覺(jué)有一點(diǎn)怪異,。但我想，恐怕這就是技術(shù)給我們帶來(lái)的變化,。如果我們?cè)谝粋€(gè)要容納幾百人的教室,，那就顯得很空曠、很大,。我們通過(guò)網(wǎng)絡(luò)直播室,，容納的人數(shù)是無(wú)限的，所以這個(gè)很有趣,，這本身就是技術(shù)給我們生活帶來(lái)的變化,，我們會(huì)發(fā)現(xiàn)技術(shù)在不斷改變我們的生活,。

我們今天要聊的話題其實(shí)就跟技術(shù)有關(guān)。雖然我們的題目叫做：當(dāng)機(jī)器人開(kāi)始寫(xiě)詩(shī),，但其實(shí)我們要聊的話題不僅僅是詩(shī),。我們從詩(shī)開(kāi)始，探討機(jī)器人寫(xiě)詩(shī)背后關(guān)于人工智能,、關(guān)于我們的世界究竟會(huì)變成什么樣的一個(gè)話題,，我覺(jué)得可能這個(gè)話題會(huì)更有意思。

人工智能在這兩年成為了一個(gè)非常熱的話題,。大家會(huì)發(fā)現(xiàn),，即使你不關(guān)注他，他也會(huì)主動(dòng)地來(lái)到你面前讓你接受他,。這里面有很多爆炸性的新聞,。事實(shí)上，人工智能已經(jīng)充斥著我們的生活,，比如：你上網(wǎng)買(mǎi)書(shū)的時(shí)候,，網(wǎng)絡(luò)頁(yè)面會(huì)自動(dòng)跳出一個(gè)頁(yè)面：猜你喜歡，背后其實(shí)就是一個(gè)基于大數(shù)據(jù)的人工智能系統(tǒng),，當(dāng)然這是一個(gè)比較簡(jiǎn)單的系統(tǒng),。也就是說(shuō)，這樣的一種人工智能系統(tǒng)已經(jīng)在我們的生活中無(wú)處不在了,。

今天有很多大公司在不斷推動(dòng)關(guān)于人工智能的研究,，比如像Google、微軟這種世界級(jí)的大公司在做這種研發(fā),，而且常常會(huì)選擇一種爆炸性的展示方式,。比如說(shuō)在1997年的時(shí)候，比較大型的公司IBM,，研發(fā)的程序深藍(lán)跟國(guó)際象棋大師卡斯帕羅夫之間的對(duì)弈,。

為什么大公司通常選擇棋類(lèi),、詩(shī)歌這樣的方式來(lái)切入呢？很重要的一個(gè)原因就是象棋,、圍棋這種棋類(lèi)常被視為高密度、高復(fù)雜性人類(lèi)邏輯思維的一種極致,。如果機(jī)器人能夠在這方面戰(zhàn)勝人類(lèi)，就意味著機(jī)器人到達(dá)了某種突破,。我們?cè)谌ツ昕吹降摹鞍柗ü贰睉?zhàn)勝了韓國(guó)棋手李世石,，過(guò)去的幾天“阿爾法狗”又輕易地打敗了中國(guó)的柯潔，也打敗了其他幾個(gè)大師的聯(lián)手,，可以說(shuō)是把他們打得落花流水,。事實(shí)上，這樣的新聞一出來(lái)就會(huì)有很多轟動(dòng)的新聞效應(yīng),。

機(jī)器人這一回,，是由微軟開(kāi)發(fā)的一種程序，叫小冰,，可能是針對(duì)漢語(yǔ)世界的,，因?yàn)閷?xiě)的是漢詩(shī)嘛。我們會(huì)發(fā)現(xiàn),，超越于原來(lái)我們看到的“阿爾法狗”之類(lèi),，畢竟棋類(lèi)完全是智力思考的結(jié)果。那么,，當(dāng)它要挑戰(zhàn)詩(shī)歌的時(shí)候,，就意味著，他不僅僅要挑戰(zhàn)某種智力,，而且要挑戰(zhàn)某種人類(lèi)的思想,、情感、想象力的領(lǐng)域,。小冰寫(xiě)詩(shī),，對(duì)我們來(lái)講,，它的震撼性在這里。

剛才我已經(jīng)給大家發(fā)了兩首小冰寫(xiě)的詩(shī),，可能很多人之前在網(wǎng)上大致看過(guò),，我就不念出來(lái)了。對(duì)這些詩(shī),，我們最重要的觀感是什么,？就是寫(xiě)得比較碎，里面有一些還不錯(cuò)的句子,。也就是說(shuō)有句子,，但是沒(méi)有整體性的布局，沒(méi)有作品內(nèi)在的有機(jī)性,，里面是沒(méi)有一些肌理的,。有一些句子，比如“她嫁了人間許多的顏色”,，“嫁”跟“顏色”之間這種混搭會(huì)帶來(lái)某種陌生化的效果,，讓人覺(jué)得很特別，覺(jué)得這是一個(gè)很不錯(cuò)的句子,。

但是呢,，你如果仔細(xì)地看就會(huì)發(fā)現(xiàn)他寫(xiě)的這些詩(shī)其實(shí)是沒(méi)有詩(shī)的思想的，它還談不上是人類(lèi)的想象力,、思考力,、對(duì)現(xiàn)實(shí)的批判性融合為一體之后對(duì)現(xiàn)實(shí)所做的一個(gè)反饋、所重構(gòu)的一個(gè)世界,，這是我們理想中的詩(shī)歌,。所以如果把這種詩(shī)跟里爾克的“誰(shuí)此時(shí)孤獨(dú)，就永遠(yuǎn)孤獨(dú)”或者“何來(lái)勝利可言,，挺住意味著一切”這樣包含著思想,、想象力的句子比起來(lái)，差距顯然是太大了,，就像一個(gè)剛剛學(xué)詩(shī)的人寫(xiě)的,。當(dāng)小冰寫(xiě)出這些詩(shī)之后有很多詩(shī)人表示出了相當(dāng)?shù)牟恍迹o大家看一個(gè)圖片,。

這些著名的詩(shī)人們借這個(gè)機(jī)會(huì),，對(duì)于小冰寫(xiě)詩(shī)表達(dá)了一番嘲諷。于堅(jiān)說(shuō)：“他設(shè)計(jì)不了人的靈性,?！蓖跫倚抡f(shuō)：“這些小玩意兒不值一談”。只有一位叫夢(mèng)亦非的詩(shī)人持一種肯定態(tài)度,。因?yàn)閴?mèng)亦非本人,，是一個(gè)技術(shù)未來(lái)主義崇拜者,，所以他認(rèn)為小冰寫(xiě)詩(shī)開(kāi)創(chuàng)了新詩(shī)的新紀(jì)元，這種觀點(diǎn)跟其他人的觀點(diǎn)是針?shù)h相對(duì)的,。但是整體上,，就詩(shī)論詩(shī)而言，大家都認(rèn)為小冰寫(xiě)的這些詩(shī)只不過(guò)是一個(gè)游戲,，不值一提,。但在我看來(lái)，這背后的人工智能問(wèn)題可能被忽略了,。

也就是說(shuō)，我們雖然可以忽視小冰目前寫(xiě)的這種詩(shī),，但是我們恐怕不能忽視小冰寫(xiě)詩(shī)背后的人工智能,。我們會(huì)發(fā)現(xiàn)在人類(lèi)的發(fā)展歷程中，科技一直在推動(dòng)世界的變化,，比如我開(kāi)始時(shí)談到我們今天能以這樣的方式來(lái)交流,，本身就是某種技術(shù)推動(dòng)的結(jié)果。我們今天可以看不起小冰寫(xiě)的詩(shī),，但是很可能未來(lái)我們不知道人工智能會(huì)如何改變我們的生活,，會(huì)將我們的世界變得如何得面目全非。

既然我們今天是從文學(xué)切入,，或許可以聊一聊在可能的AI時(shí)代／人工智能的時(shí)代,，文學(xué)可能會(huì)是怎么樣的，這方面其實(shí)也有不少人在探討,，比如說(shuō)作家韓少功寫(xiě)了一篇文章叫做《當(dāng)機(jī)器人成立作家協(xié)會(huì)》,，當(dāng)然這是一種戲謔的說(shuō)法，但是我們會(huì)發(fā)現(xiàn)：人工智能的時(shí)代,，文學(xué)的某些方面,，特別是類(lèi)型化的寫(xiě)作，很可能就會(huì)被替代,，比如我們今天有很多的網(wǎng)絡(luò)寫(xiě)手都在寫(xiě)類(lèi)型化的作品：玄幻,、穿越、后宮,、盜墓……這些作品很有可能在未來(lái)被替代,。一些從事純文學(xué)寫(xiě)作的作家會(huì)露出得意的笑臉，他們會(huì)說(shuō)：看吧,，你們寫(xiě)的這些東西很可能將來(lái)就完全沒(méi)有立足之地了,，那個(gè)時(shí)候依然還能確立人類(lèi)尊嚴(yán)的還是嚴(yán)肅的作家。

不過(guò)我對(duì)這個(gè)問(wèn)題的看法要稍微悲觀一點(diǎn),，我認(rèn)為可能在未來(lái)那樣一種人工智能時(shí)代,，不是類(lèi)型化的寫(xiě)作被人工智能所替代后,，這樣一些有想象力、有思考力,、帶有人類(lèi)特有靈性的作品就必然會(huì)留下來(lái),，恐怕不是那樣。到了那樣一個(gè)時(shí)代,，類(lèi)型化的寫(xiě)作固然已經(jīng)被人工智能替代了,，但是有想象力的作品在那個(gè)時(shí)代也已經(jīng)變得不需要了。

我們今天的提問(wèn)方式是：人工智能真的有可能具備人類(lèi)才有的想象力嗎,？人工智能真的能夠?qū)懗鋈祟?lèi)才能寫(xiě)出的東西嗎,？我們可能會(huì)這樣問(wèn)，但是如果當(dāng)人工智能已經(jīng)統(tǒng)治了我們的世界,，由人工智能來(lái)定義世界的法則,，那么我們真的會(huì)問(wèn)：我們的世界真的需要想象力嗎？這個(gè)世界難道真的需要那么多的思考嗎,？可能人類(lèi)特有的東西會(huì)在未來(lái)的世界當(dāng)中被看成是可有可無(wú)的,，也就是說(shuō)在未來(lái)的世界當(dāng)中，人文精神已經(jīng)不再是定義文學(xué)的一個(gè)文學(xué)標(biāo)準(zhǔn)了,。假如未來(lái)有我們所想象的人工智能文學(xué)史的話,，那么它將重新設(shè)定一個(gè)新的價(jià)值標(biāo)準(zhǔn)，在這個(gè)標(biāo)準(zhǔn)里面,，人類(lèi)很可能是沒(méi)有位置的,。

接下來(lái)我想聊一個(gè)問(wèn)題，這個(gè)問(wèn)題我剛才就和大家提到過(guò),，其實(shí)人工智能背后存在著一種烏托邦的沖動(dòng),，我們也會(huì)在人工智能產(chǎn)生之后發(fā)現(xiàn)一種反烏托邦的聲音，人工智能的背后環(huán)繞著一種烏托邦和反烏托邦的博弈,。那么,，何為“烏托邦”？何為“反烏托邦”,？我做一個(gè)非常簡(jiǎn)單的描述,。

在我看來(lái)烏托邦代表了人類(lèi)對(duì)于未來(lái)某種非現(xiàn)實(shí)性理想的愿景和追求，也就是說(shuō),，當(dāng)我們?nèi)祟?lèi)還在地面的時(shí)候,，想象有一天我們可以像鳥(niǎo)一樣翱翔在天空，這其實(shí)就是一種烏托邦的沖動(dòng),。每當(dāng)黑夜來(lái)臨時(shí),，我們就沉入了沉沉的黑暗當(dāng)中，然后人類(lèi)開(kāi)始想象：如果有一天我們可以把白晝也帶到夜晚的時(shí)間來(lái)，這也是一種烏托邦的沖動(dòng),。這種烏托邦的沖動(dòng)使得人類(lèi)實(shí)現(xiàn)了一個(gè)又一個(gè)在我們看來(lái)不可想象的東西,，所以我們的很多穿越劇中有一個(gè)劇情，這種劇情就是驚嚇,，如果我們通俗一點(diǎn)來(lái)說(shuō),，就是“嚇尿”，你被它“嚇尿”了,，你一個(gè)古代的人,，穿越來(lái)到幾百年后的世界，會(huì)被這個(gè)世界呈現(xiàn)出的景觀完全地“嚇尿了”,，這其實(shí)就是技術(shù)所帶來(lái)的一個(gè)新世界,。

當(dāng)我們談到烏托邦的沖動(dòng)，我們剛才說(shuō)的主要是它的一些好的方面,，即它對(duì)我們世界的創(chuàng)造性,，引領(lǐng)我們開(kāi)創(chuàng)一個(gè)全新的未來(lái)。我們會(huì)發(fā)現(xiàn)在烏托邦的背后,，還包含著一種反烏托邦的思維,，也就是人類(lèi)對(duì)于理想之境的負(fù)面效果的警惕,。'Too good to be true'就是說(shuō)它太美好了,，美得不像是真的，或者說(shuō)我們所設(shè)想的這個(gè)美好的世界代表著科技的一維,，它如果進(jìn)入到我們的社會(huì)生活當(dāng)中,，就會(huì)有許多其他層面的東西需要考慮。所以這些反烏托邦主義者就會(huì)對(duì)烏托邦主義者所描述的美麗新世界提出種種質(zhì)疑,，我們不妨來(lái)看看圍繞人工智能,，烏托邦跟反烏托邦，樂(lè)觀主義的和悲觀主義的人會(huì)如何來(lái)設(shè)想未來(lái)的世界,。

對(duì)于烏托邦主義者而言,，在那些不斷實(shí)踐、推動(dòng)人工智能發(fā)展的人看來(lái),，人工智能當(dāng)然是一種非常美妙的技術(shù),，它會(huì)給人類(lèi)帶來(lái)美好的愿景。我剛剛看到人工智能出了一種性道具,，這是針對(duì)很多大齡“宅男”,、“宅女”的生理問(wèn)題，假如說(shuō)人工智能開(kāi)發(fā)出了這樣一種機(jī)器人,，這種機(jī)器人跟人類(lèi)的外貌是高仿的,，而且是可以隨意設(shè)計(jì)的，你想要什么類(lèi)型就可以有什么類(lèi)型，而且它不像我們以前想象的是一種簡(jiǎn)單的,、呆板的,、讓人很陌生的硅膠，它是可以跟你對(duì)話的存在,，在很多人看來(lái),，它可以解決無(wú)數(shù)“宅男”、“剩女”的生理的,、精神的難題,。

面對(duì)這樣一些難題，人工智能完全可以說(shuō)：“走開(kāi),，讓我來(lái),。”這是人工智能完全可以解決的,。也就是說(shuō)在未來(lái)的時(shí)代,，在烏托邦主義者的想象中，人類(lèi)會(huì)變得極端的自由,，也就是說(shuō)人類(lèi)完全被人工智能所解放了,，你已經(jīng)變得隨心所欲，任何你不想做的,、任何你的匱乏,，在未來(lái)的世界當(dāng)中都可以得到解決。

但是恐怕事情沒(méi)有這么簡(jiǎn)單,，人工智能不僅是一個(gè)技術(shù)問(wèn)題,，它還會(huì)帶來(lái)種種倫理問(wèn)題、社會(huì)問(wèn)題,。人是一種自帶倫理性的存在,，所以任何一個(gè)技術(shù)問(wèn)題，它還要和這個(gè)社會(huì)相匹配相適應(yīng),。

人工智能要變成一種真正類(lèi)似于人的高階的人工智能,，它首先有一個(gè)價(jià)值觀的問(wèn)題。現(xiàn)在有很多人工智能的科學(xué)家,，他們?cè)谔岢鲞@樣一個(gè)命題：怎樣給人工智能輸入價(jià)值觀,？比如說(shuō)：人工智能研發(fā)當(dāng)中有一種智能的駕駛員，即有一臺(tái)車(chē),，你是不需要駕駛的,，你只需要告訴它去哪里，這臺(tái)車(chē)就會(huì)自動(dòng)開(kāi),，聽(tīng)上去很美妙,，問(wèn)題是人工智能的這種駕駛車(chē),，在碰到一些問(wèn)題的時(shí)候歇菜了：當(dāng)它在駕車(chē)的時(shí)候，它碰到某些困難,、某些車(chē)禍,，在這個(gè)過(guò)程中，它究竟是要保護(hù)車(chē)?yán)锩娴娜?，還是要保護(hù)車(chē)外的人,？如果要優(yōu)先保護(hù)車(chē)?yán)锏娜恕⒆蚕蜍?chē)外的人,，它撞向的人當(dāng)中也包含了某些歧路,、某些選擇：是要撞向一個(gè)比較丑的人，還是撞向一個(gè)比較美的人,？是撞向一個(gè)老人,，還是撞向一個(gè)小孩？是撞向一個(gè)男人,，還是撞向一個(gè)女人,？這里都包含了很多價(jià)值觀的取舍。

事實(shí)上我剛才談到的問(wèn)題,，韓少功在他的文章中也提到，桑德?tīng)栐谒墓n的第一課中也談到：一個(gè)人開(kāi)一輛車(chē),，車(chē)前有一個(gè)軌道,，這個(gè)軌道分叉，這輛車(chē)剎不住,，它注定要撞死人,，有一邊是五個(gè)人,，有一邊是一個(gè)人,，那么你究竟是要撞死五個(gè)人，還是撞死一個(gè)人呢,？這里包含了很多價(jià)值觀的沖突,，有的人會(huì)說(shuō)撞死一個(gè)人總比撞死五個(gè)人好，但是有的人會(huì)提出反駁：為什么少數(shù)人必須為多數(shù)人犧牲,？少數(shù)人的價(jià)值就不是價(jià)值了嗎,？

人類(lèi)的任何選擇里面都包含了價(jià)值觀的歧路，怎樣為人工智能輸入一種價(jià)值觀本身就會(huì)成為一個(gè)很大的難題,。這里面還有許多其他的問(wèn)題,，人工智能和社會(huì)的沖突，我們現(xiàn)在想象得很美好,，人工智能把我們?nèi)祟?lèi)不想干的活全都干了,，那么到那個(gè)時(shí)代，人類(lèi)還活著干什么？

這里面很多人會(huì)忽略一個(gè)階級(jí)的問(wèn)題：人工智能看上去好像是屬于全人類(lèi)的,，可事實(shí)上它只屬于某一個(gè)研發(fā)它的階層,，那么這個(gè)階層研發(fā)它真的是要造福全人類(lèi)嗎？一定不是這樣的,，這種人工智能一定會(huì)被某個(gè)特殊的社會(huì)中的權(quán)力階層所控制,，用于為它們創(chuàng)造利益，我們現(xiàn)在設(shè)想的世界,、未來(lái)的世界,，作為一個(gè)資本家，作為一個(gè)工廠主,，他所有的工作都可以靠機(jī)器人完成,，不需要任何的人參與，事實(shí)上它不是造成了人類(lèi)共同的自由,，而是造成了大量的失業(yè),，這種極大的失業(yè)群體會(huì)帶來(lái)巨大的社會(huì)不穩(wěn)定，這就是人工智能會(huì)帶來(lái)的隱患,。

還有一個(gè)問(wèn)題可能是我們比較少思考的,，我們常常以為人工智能可以完全處于我們的控制當(dāng)中。我們現(xiàn)在處于沖突性的兩種意志當(dāng)中,，一種意志是我們想要把人工智能控制在人類(lèi)可控的范圍當(dāng)中,，因?yàn)檫@樣才能為人類(lèi)所用；另一種意志是我們想努力讓人工智能獲得人類(lèi)想要具有的能力,，比如：想象力,、情感、自我思考,、自我辨別的能力,。

谷歌開(kāi)發(fā)了一個(gè)系統(tǒng)，讓軟件自動(dòng)識(shí)別什么是貓,。當(dāng)一個(gè)系統(tǒng)獲得了自己的辨別能力,、辨認(rèn)能力，它其實(shí)是慢慢向人類(lèi)靠近的,。我們知道人區(qū)別于機(jī)器人,，心理學(xué)家做出了兩種認(rèn)知，一種認(rèn)知是說(shuō)機(jī)器人是遠(yuǎn)遠(yuǎn)強(qiáng)于人的,，記憶儲(chǔ)存能力,、邏輯計(jì)算能力，在這方面機(jī)器人是遠(yuǎn)強(qiáng)于人的,，人類(lèi)和機(jī)器人沒(méi)法比,，現(xiàn)在讓你計(jì)算一下36*36,，很簡(jiǎn)單的算術(shù)，對(duì)于普通人來(lái)講已經(jīng)很困難,，但是對(duì)于計(jì)算機(jī)而言完全不是問(wèn)題,。

人類(lèi)優(yōu)越于機(jī)器人的地方在于某種模糊的、寬泛的直覺(jué)能力,，這種能力是機(jī)器人所不具備的,，比如說(shuō)，今天當(dāng)你走進(jìn)一個(gè)人群當(dāng)中,，你突然感覺(jué)到這群人說(shuō)話,、表情、語(yǔ)氣,、眼神都有些不對(duì),，你的直覺(jué)會(huì)告訴你他們剛才是否在聊一些對(duì)你不利的話，他們是不是在取笑你,，是不是背后在說(shuō)你的壞話,，這是人類(lèi)的一種直覺(jué)。

我剛說(shuō)我們處于一種矛盾的沖動(dòng)當(dāng)中,，一方面我們想要把機(jī)器人控制在我們可控的范圍之中,，但另一方面我們又努力地想要機(jī)器人在這種模糊的、寬泛的人類(lèi)特有的能力方面朝人類(lèi)靠近,，這是當(dāng)代的人工智能科學(xué)家做的一件事情,，這樣做的一個(gè)結(jié)果是人工智能在模糊的方面會(huì)越來(lái)越接近人類(lèi)，更可能的一個(gè)結(jié)果是當(dāng)人工智能在未來(lái)終于在直覺(jué)和心理能力上靠近人類(lèi)的時(shí)候,，那就是人類(lèi)被人工智能碾壓的時(shí)候,。

有人做過(guò)這樣一個(gè)比喻：我們?nèi)祟?lèi)站在一個(gè)站臺(tái)上等著人工智能這趟車(chē)過(guò)來(lái)，左等也不來(lái),，右等也不來(lái),，等了好幾年，等了幾十年,，我們慢慢聽(tīng)到了火車(chē)的聲音,，哐當(dāng)哐當(dāng)?shù)叵蛭覀冏哌^(guò)來(lái),，事實(shí)上當(dāng)我們?cè)跒樗鼩g呼的時(shí)候,，我們并不知道人工智能這趟車(chē)，和人類(lèi)的智能重疊只有一個(gè)非常小的時(shí)間段,。也就是說(shuō),，當(dāng)人工智能在非常寬泛的、模糊的識(shí)別能力上接近人類(lèi)之后,，它在其他方面（邏輯上,、儲(chǔ)存上）的優(yōu)越性就會(huì)很明顯地體現(xiàn)出來(lái),，那么到了那個(gè)時(shí)候人類(lèi)會(huì)被人工智能打得潰不成軍，這就是為什么今天有那么多的反烏托邦主義者對(duì)人工智能感到恐懼,，他們常常談?wù)撊斯ぶ悄軐?duì)于人類(lèi)意味著什么,，它不一定意味著一個(gè)好的結(jié)果，它有可能像瘟疫,，有可能像火山爆發(fā)這樣的一些存在,，所以包括像比爾蓋茨、霍金他們都提出人類(lèi)要警惕人工智能,。

最后我想跟大家聊幾部電影,，有些電影已經(jīng)開(kāi)始在想象人工智能的一個(gè)未來(lái)世界，比如：八十年代的一部電影叫《銀翼殺手》,，還有大家熟知的《黑客帝國(guó)》,，它們都涉及到人工智能時(shí)代人類(lèi)可能的災(zāi)難。

但是在我看來(lái)這樣的電影,，比如《銀翼殺人》談的是復(fù)制人,，復(fù)制人就是人工智能產(chǎn)生的一種人，這樣一些人復(fù)制出來(lái),，變得和人類(lèi)完全一樣,，卻讓人類(lèi)驅(qū)逐出外星球。電影描述了一群只有三年壽命的復(fù)制人,，這之中的幾個(gè)精英分子重返地球,，它們努力地要來(lái)尋求延長(zhǎng)壽命的方式。電影講述了人類(lèi)中的一員奉命執(zhí)行“銀翼計(jì)劃”,，去消滅復(fù)制人,，最后卻和復(fù)制人中的一個(gè)女性相愛(ài)了。在我看來(lái)它可能思考的不是一個(gè)人工智能的問(wèn)題,，表面上是,，事實(shí)上則不是，它把復(fù)制人的悲慘遭遇投射在某種類(lèi)似于種族問(wèn)題的思考上,，復(fù)制人是一個(gè)特殊的種族,，電影是通過(guò)復(fù)制人在思考特殊人種的不平等問(wèn)題，包含了很多人文性的思考,，恐怕人類(lèi)對(duì)人工智能的恐懼還沒(méi)有真正在這部作品中顯露出來(lái),。八十年代人類(lèi)恐怕還沒(méi)有真正地恐懼人工智能，所以《銀翼殺手》雖然是人工智能題材,，但不是一個(gè)思考人工智能未來(lái)可能性的作品,。

電影《銀翼殺手》圖片

《黑客帝國(guó)》可能稍微超前走了一步，在《黑客帝國(guó)》中,，人成了技術(shù)設(shè)定的一個(gè)程序,，那個(gè)時(shí)候不是人在控制機(jī)器,，而是機(jī)器在控制人，它變成了人類(lèi)某種恐懼的呈現(xiàn),。不過(guò)《黑客帝國(guó)》寫(xiě)的是黑客的抗?fàn)?，黑客就是人?lèi)中的某些覺(jué)醒者，他們最早意識(shí)到人類(lèi)只不過(guò)是機(jī)器的某種程序,，這樣一些人在跟機(jī)器的斗爭(zhēng)中終于獲得了人類(lèi)跟機(jī)器和平共處的機(jī)會(huì),。在這里我們看到的恐怕也不是人類(lèi)對(duì)人工智能時(shí)代人類(lèi)可能性災(zāi)難的一種思考，它其實(shí)是一種人文的英雄主義,，克服了AI時(shí)代的精神恐怖,。所以在我看來(lái)人工智能究竟會(huì)為我們帶來(lái)什么可能在目前來(lái)說(shuō)是一個(gè)很難講的問(wèn)題。

電影《黑客帝國(guó)》圖片

我自己恐怕還是站在一個(gè)反烏托邦的立場(chǎng)上,，我們對(duì)于技術(shù)的激進(jìn)主義,、技術(shù)至上主義，作為一個(gè)人文主義者總是會(huì)抱著某種警惕性,。羅輯思維的主持人羅振宇有一期節(jié)目專(zhuān)門(mén)談人工智能的問(wèn)題,，他有一句話說(shuō)得很好：“其實(shí)人工智能的本質(zhì)在于人類(lèi)將自己作為世界萬(wàn)物靈長(zhǎng)的地位拱手相讓?！币簿褪俏覀兣σ?jiǎng)?chuàng)造一種比人更加優(yōu)越的,，比人厲害百倍的人，這其實(shí)源于一種烏托邦的沖動(dòng),，但在我看來(lái)我們也不能一味地去看低烏托邦的沖動(dòng),，因?yàn)樵谌祟?lèi)的發(fā)展歷程當(dāng)中，烏托邦沖動(dòng)可能就是一個(gè)油門(mén),，而反烏托邦沖動(dòng)就是一個(gè)剎車(chē),，如果人類(lèi)對(duì)于未來(lái)的世界沒(méi)有某種想象力的話，那我們的世界就會(huì)活在某種不得發(fā)展的稚氣當(dāng)中,，但如果我們對(duì)于這樣一個(gè)未來(lái)世界沒(méi)有足夠的警惕的話,，到了某個(gè)時(shí)候我們按動(dòng)人工智能的按鈕，未來(lái)的世界會(huì)變成什么樣我們就很難說(shuō)清楚了,。

今天我和大家分享“當(dāng)機(jī)器人開(kāi)始寫(xiě)詩(shī)”這一話題其實(shí)重點(diǎn)不是談詩(shī),，而是談“人工智能的未來(lái)世界”這個(gè)問(wèn)題，謝謝大家,。

主持人：接下來(lái)到了我們的提問(wèn)環(huán)節(jié),，大家有什么問(wèn)題盡管提出，陳老師會(huì)選擇一些問(wèn)題進(jìn)行解答,。我們會(huì)從中挑選三位送出最新一期的《花城》雜志,，歡迎大家踴躍提問(wèn)。

問(wèn)：您認(rèn)為《1984》中機(jī)器寫(xiě)作代替人類(lèi)的可能性有多大,？

答：我剛才已經(jīng)談到了,，在我們現(xiàn)有的技術(shù)條件下，用機(jī)器程序來(lái)代替人類(lèi)進(jìn)行某種類(lèi)型化的寫(xiě)作其實(shí)已經(jīng)成為了一種可能,，但是寫(xiě)作要具有人文立場(chǎng)所特有的想象力,、批判性、思考力,，目前恐怕是做不到的,，未來(lái)是否能做得到，我認(rèn)為也是做不到的,，更準(zhǔn)確地來(lái)說(shuō)不是未來(lái)做不到,，而是不需要，當(dāng)這個(gè)世界被機(jī)器人統(tǒng)治了以后,，就不需要人類(lèi)的這些東西了,。

問(wèn)：老師，如果人工智能真的統(tǒng)治了世界,，還會(huì)容忍人類(lèi)存在嗎,？那樣世界上還會(huì)存在文學(xué)嗎？

答：其實(shí)這個(gè)我剛才也談到了,，如果這個(gè)世界被人工智能控制了,，恐怕這個(gè)世界就不再由人來(lái)定義，而是由人工智能來(lái)定義,，有許許多多的東西都會(huì)被改寫(xiě),，我們今天對(duì)文學(xué)的種種人文主義的定義，都會(huì)發(fā)生變化,。到了那個(gè)時(shí)候,，恐怕討論的就不再是文學(xué)是否存在的問(wèn)題，或者說(shuō)文學(xué)怎么寫(xiě)得更好的問(wèn)題,，而是文學(xué)是否被需要的問(wèn)題,。

問(wèn)：人工智能真的可以擁有感情嗎？美妙的文字如果不是基于情感,，那還算是真正意義上的文學(xué)嗎,？

答：我是這么看這個(gè)問(wèn)題的：我們今天對(duì)文學(xué)的定義，是把情感,、想象力等作為文學(xué)的內(nèi)在,，這種方式是人文主義時(shí)代以來(lái)的產(chǎn)物。如果有一天這個(gè)世界被人工智能所控制,，我們就不再討論它寫(xiě)的是不是文學(xué)的問(wèn)題,，而是討論它會(huì)讓我們?cè)趺瓷娴膯?wèn)題。

問(wèn)：陳老師,，有個(gè)問(wèn)題大家比較關(guān)心,，如果不久的未來(lái)會(huì)有人機(jī)大戰(zhàn)的寫(xiě)作賽事,，我們?nèi)祟?lèi)有可能贏嗎？人類(lèi)能否守住最后這一道防線,？

答：這種提問(wèn)的方式還是基于“人究竟是優(yōu)越于人工智能,，還是人工智能會(huì)挑戰(zhàn)人類(lèi)”，其實(shí)剛才我在講的時(shí)候就特別強(qiáng)調(diào)了人類(lèi)的一種內(nèi)在的沖動(dòng),，一方面我們想把人工智能控制在可控的范圍內(nèi),，但另一方面我們又努力地使它在某種寬泛的、模糊的認(rèn)知能力上靠近人類(lèi),，所以一旦人工智能的這種認(rèn)知能力達(dá)到了某種高度,，人類(lèi)在這個(gè)特定的時(shí)候一定會(huì)被人工智能所碾壓。

問(wèn)：陳老師好,，您怎么看待人工智能給人類(lèi)倫理帶來(lái)的沖突,？

答：這個(gè)問(wèn)題提得還是蠻有意思的，我在講座的后半段其實(shí)一直在談這個(gè)問(wèn)題,。作為研究人工智能的科學(xué)家,，作為技術(shù)主義者，他會(huì)設(shè)想很多技術(shù)帶來(lái)的美妙的東西,，但是當(dāng)一個(gè)技術(shù)要被應(yīng)用到人類(lèi)社會(huì)當(dāng)中,，會(huì)面臨很多倫理的不匹配問(wèn)題。

很簡(jiǎn)單的,，比如說(shuō)如果能設(shè)計(jì)出一種可控,、可復(fù)制的“人類(lèi)”，完全跟人一樣,，可以隨心所欲操控的伴侶,，也就是說(shuō)你不再需要愛(ài)情了，不再需要交男女朋友,，也不再需要結(jié)婚了,，只要去訂購(gòu)一個(gè)在外貌、性格,，在任何方面都適合你需求的這樣一個(gè)“人”來(lái)陪伴你就夠了,，你跟它相處沒(méi)有任何的煩惱，這聽(tīng)上去是極其美妙的,，但事實(shí)上這種事情給人類(lèi)的倫理帶來(lái)了巨大的挑戰(zhàn),。如果人類(lèi)都迷上了這種“人”，可能所有人都不結(jié)婚了,，雖然還會(huì)有新的繁衍后代的方式出現(xiàn),，但是我們還是原來(lái)的人嗎？或者說(shuō)我們對(duì)于人的種種的想象，對(duì)于愛(ài)情,、婚姻種種的倫理的邊界,，就被顛覆掉了。

所以我們要警惕人工智能的意思不是說(shuō)我們不要研究人工智能,，而是說(shuō)對(duì)人工智能在特定的跟人類(lèi)的倫理,、社會(huì)可能產(chǎn)生沖突的那些領(lǐng)域要更加地小心,，或者說(shuō)對(duì)這方面,，人文科學(xué)的學(xué)者、從業(yè)者要有更多的呼吁,。

問(wèn)：老師剛剛說(shuō)要警惕,，但是時(shí)代這樣快地發(fā)展，我們?cè)趺淳枘兀?/span>

答：這個(gè)問(wèn)題提得蠻好的,。確實(shí)我們說(shuō)的警惕不可能是真的由我們?nèi)ソ故裁?，或者說(shuō)我們說(shuō)的只是警惕而不是禁止，因?yàn)槲覄偛耪劦綖跬邪畹臎_動(dòng)對(duì)于人類(lèi)的發(fā)展,，包括人工智能對(duì)于人類(lèi)社會(huì)的存在也是有很多正面的,、積極的意義的，我這里邊所謂的警惕的意思就是我們要一分為二地來(lái)看這個(gè)問(wèn)題,，我們不能把人工智能看成是絕對(duì)美好的一種存在,，我們要知道它可能帶來(lái)種種沖突，有跟人類(lèi)社會(huì)不匹配的方面,。

問(wèn)：老師您好,。詩(shī)的陌生化語(yǔ)言可以帶給人不同的解讀，在這個(gè)解讀過(guò)程中每個(gè)人就會(huì)流露出不同的情感,，這樣的話,，還能說(shuō)機(jī)器人寫(xiě)詩(shī)是沒(méi)有情感的嗎？

答：這其實(shí)是一個(gè)情感造假的問(wèn)題,，人工智能確實(shí)可以通過(guò)某些技術(shù)的手段來(lái)使得某些段落看上去是有情感的,，這就是我們常說(shuō)到的“文如其人”還是“文不如其人”的問(wèn)題。寫(xiě)作技術(shù)達(dá)到一定的程度是有可能會(huì)對(duì)真實(shí)情感造成某種遮蔽,，或者說(shuō)某種掩蓋的,，比如說(shuō)某一些人，你讀他的作品,，覺(jué)得這個(gè)人一定是特別崇高的一個(gè)人,，但是一接觸，生活當(dāng)中他完全是另外一個(gè)人,。寫(xiě)作會(huì)帶來(lái)一些遮蔽的效應(yīng),，我確實(shí)相信，特別是在現(xiàn)代主義的寫(xiě)作中，特別強(qiáng)調(diào)陌生化,、技術(shù)的寫(xiě)作當(dāng)中,，人工智能是有可能創(chuàng)造一種情感的，但這種情感不是說(shuō)它本身具有情感,，而是一種偽造的情感,。

問(wèn)：不僅人工智能，人類(lèi)史上也有過(guò)瀕臨“失控”的時(shí)代產(chǎn)物和時(shí)刻,，比如原子彈戰(zhàn)爭(zhēng),，核能，環(huán)境瘟疫,，我更感興趣的是,，人工智能是人類(lèi)意志的“極限”的象征嗎？

答：我恐怕沒(méi)有辦法回答是不是一種極限,。有很多人在談,，認(rèn)為技術(shù)為人類(lèi)創(chuàng)造了很多美好的未來(lái)，技術(shù)就像一棵樹(shù)上很好的果實(shí),。但人類(lèi)也撿到過(guò)某些可能毀滅人類(lèi)的果實(shí),，比如我們撿到過(guò)的核武器，它也是一個(gè)新的技術(shù),，是人類(lèi)投入了無(wú)數(shù)精力研發(fā)的技術(shù),，人工智能也可能是這樣。

問(wèn)：陳老師,，我似乎沒(méi)聽(tīng)到詩(shī)歌發(fā)展與人工智能的關(guān)系,，能否請(qǐng)你談?wù)勥@方面的內(nèi)容。有人說(shuō)機(jī)器人寫(xiě)詩(shī)存在“三個(gè)沒(méi)有”——沒(méi)有邏輯,、沒(méi)有感情,、沒(méi)有靈魂，記得你在今晚的講座中提到給機(jī)器植入邏輯,，當(dāng)社會(huì)發(fā)展到人類(lèi)可以把精神體驗(yàn)?zāi)Ｊ揭仓踩霗C(jī)器時(shí),，機(jī)器人能突破三個(gè)沒(méi)有的模式嗎？你覺(jué)得有這種可能性嗎,？

答：機(jī)器人如果真的獲得了人的情感和體驗(yàn)?zāi)Ｊ?，世界便由它們定義了，那時(shí)寫(xiě)詩(shī)應(yīng)該不會(huì)是它們想做的事,。寫(xiě)詩(shī)是人類(lèi)命令機(jī)器人模仿我們,，有一天它真有能力模仿，它便會(huì)掙脫指令不再模仿,，這是悖論所在,。

主持人：非常感謝陳老師的精彩講解,，也感謝大家的熱情參與！今天的微課到此結(jié)束,，歡迎大家繼續(xù)關(guān)注愛(ài)花城平臺(tái),，我們下期再見(jiàn)！