人工智能逐步取代勞動(dòng)力之后,，大量勞動(dòng)力將失去工作機(jī)會(huì)，依靠福利才能生活,。今天人類提前設(shè)想人和機(jī)器的倫理與法律關(guān)系并非多慮,。人與機(jī)器的和諧共處，無論具體上如何實(shí)現(xiàn),，最終人們一定要在與人工智能共存的未來,，獲得屬于人性的幸福。

    近日,，清華大學(xué)法學(xué)院梅汝璈法學(xué)講席教授馮象先生做客華東政法大學(xué),，開講“AI倫理和法學(xué)的危機(jī)”。此番講座無關(guān)　《圣經(jīng)》　解讀,，也與法理學(xué)無直接關(guān)系,，卻從前段時(shí)間熱極一時(shí)的AlphaGo與李世石九段的對(duì)弈說起。拋開對(duì)弈的棋局不論,，僅從人工智能　(AI)　的角度來看,，此次對(duì)決就有著里程碑式的意義。因?yàn)?，AlphaGo的設(shè)計(jì)是從完全信息博弈的游戲里戰(zhàn)勝了人類頂尖棋手,，所謂完全信息博弈是指參與雙方都完全了解規(guī)則，并且具備學(xué)習(xí)規(guī)則的能力,。這便引發(fā)了馮象的興趣:假如機(jī)器在一切規(guī)則清晰,、任務(wù)明確的工作上都能取代人類的話，那人類社會(huì)將如何應(yīng)對(duì)?

    AlphaGo的人工智能運(yùn)用范圍只是圍棋,。但是,，從它展現(xiàn)出的人工智能的潛力來看，如果類似水平的人工智能可以在通用智能上獲得發(fā)展,，在自然語言上有更為廣泛地運(yùn)用,，那么人工智能或許就不再是被人類所利用的對(duì)象,，而可能與人類平等共處了。目前人工智能對(duì)自然語言的克服已經(jīng)有了不小成就,，馮象舉例說,，如清華大學(xué)語音與語言實(shí)驗(yàn)中心(CSLT)　研發(fā)的機(jī)器人“薇薇”就已經(jīng)會(huì)作詩，經(jīng)過中國社科院有關(guān)專家評(píng)定,，“薇薇”通過了“圖靈測試”,。通過“圖靈測試”意味著人類在語言層面無法分辨人工智能與人類。而“薇薇”受到最高評(píng)價(jià)的一首詩,，名曰　《早梅》:“春信香深雪,，冰肌瘦骨絕。梅花不可知,，何處東風(fēng)約,。”專家的點(diǎn)評(píng)是:“下字用力,，少年人學(xué)詩宜如此,，然鍛煉過甚，終非上善,?！庇纱丝梢姡稗鞭薄弊髟娨延锌嘁鞯臍庀?。另一首名曰　《鏡》,，更是被評(píng)價(jià)為:“詠閨中物用五言，易見齊梁風(fēng)味,，恨體物未精,。”同樣,，在語言翻譯等其他領(lǐng)域,，人工智能也會(huì)大有作為———馮象老師說，他自己很可能是人類翻譯　《圣經(jīng)》　的最后一代了,。

    那么,，當(dāng)人工智能擴(kuò)展到其他領(lǐng)域，當(dāng)它們與人類在操作方面不相上下,，甚至超過我們的時(shí)候,，人類的生存狀況會(huì)發(fā)生怎樣的改變?　馮象從他熟悉的法律領(lǐng)域說起。他推測人工智能將會(huì)在法律領(lǐng)域獲得廣泛運(yùn)用,，這是同人工智能的算法與法律自身的性質(zhì)所決定的,。法律事務(wù)要求規(guī)則清晰，絕大部分案件信息透明,，可以運(yùn)用明晰的規(guī)則做出斷案,。今天大量的司法從業(yè)者只要遵從法律條例,，就能夠正確完成工作，而人工智能在不久的將來會(huì)游刃有余地處理此類案件,。人類只需要在信息不充分、規(guī)則不明確,、需要因人而異的復(fù)雜案件中發(fā)揮自己的才能,。

    如此一來，人工智能便從自然科學(xué)領(lǐng)域沖擊了現(xiàn)有的法學(xué)人員結(jié)構(gòu),，甚至?xí)绊懙酱髮W(xué)的法律專業(yè),。更重要的是，未來的法律爭論都需要借助人工智能理清思路,，就像我們今天的行政管理不能離開電腦一樣,。法學(xué)必須要變革的危機(jī)時(shí)刻即將到來。人類究竟是選擇與機(jī)器合作,，還是選擇讓機(jī)器徹底地自動(dòng)化,，以至于人類完全不用操心這件事情?

    這種擔(dān)心是不是過早了呢，或者想象力過于豐富了?其實(shí)不然,，寫作　《資本論》　時(shí)期的馬克思曾經(jīng)寫過有關(guān)機(jī)器問題的筆記,，他在19世紀(jì)就從經(jīng)濟(jì)學(xué)與哲學(xué)的視角分析了機(jī)器能夠解放勞動(dòng)力的可能性。在他的基本判斷中,，進(jìn)入生產(chǎn)領(lǐng)域的機(jī)器最為重要的貢獻(xiàn)是將勞動(dòng)力從工作中解放出來,，生產(chǎn)資料的生產(chǎn)不再由人來完成，而是由機(jī)器來完成,。于是,，人類將在生產(chǎn)力得到進(jìn)一步發(fā)展的同時(shí)，獲得巨大的閑暇時(shí)間,。閑暇時(shí)間與人類的自由及個(gè)性全面展開息息相關(guān),，馮象在講座上援引了馬克思在　《德意志意識(shí)形態(tài)》　里關(guān)于共產(chǎn)主義的著名設(shè)想:“而在共產(chǎn)主義社會(huì)里，任何人都沒有特定的活動(dòng)范圍,，每個(gè)人都可以在任何部門內(nèi)發(fā)展,，社會(huì)調(diào)節(jié)著整個(gè)生產(chǎn)，因而使我有可能隨自己的心愿今天干這事,，明天干那事,，上午打獵，下午捕魚,，傍晚從事畜牧,，晚飯后從事批判，這樣就不會(huì)使我老是一個(gè)獵人,、漁夫,、牧人或批判者,。”不同于馬克思更多從生產(chǎn)力與生產(chǎn)關(guān)系來展望機(jī)器的大規(guī)模運(yùn)用,，馮象的關(guān)注點(diǎn)仍然集中在人類與人工智能的相處模式之于法律與倫理格局的挑戰(zhàn),。

    在不久的未來，當(dāng)人機(jī)相處就像現(xiàn)在人與人之間相處這樣平常的時(shí)候,，人與機(jī)器之間的交往規(guī)則,，也一定同人與人之間一樣，需要倫理與法律的規(guī)范,。人類交往的倫理意義是,，每一個(gè)人背后都有一套文明傳統(tǒng)的支撐，語言,、習(xí)俗,、禁忌等等都為個(gè)體與個(gè)體之間的交往提供了倫理依據(jù)。同樣,，在近代政治哲學(xué)的設(shè)計(jì)里,，即便人和人之間還原為“自然狀態(tài)”，近代自然權(quán)利理論家也會(huì)從自然法中推演出符合人類天性的基本準(zhǔn)則,。

    一旦具有全面克服自然語言的機(jī)器人廣泛運(yùn)用到社會(huì)各個(gè)領(lǐng)域,，并在社會(huì)生活中與人類廣泛協(xié)作，那么人機(jī)關(guān)系就將從目前的生產(chǎn)和科學(xué)研究領(lǐng)域,，進(jìn)發(fā)為日常交往行為,。人機(jī)交往將和人際交往一樣，成為人類社會(huì)的常態(tài),。今天人類提前設(shè)想人和機(jī)器的倫理與法律關(guān)系并非多慮,，要知道時(shí)至今日，哲學(xué),、倫理學(xué)與社會(huì)理論仍在研究社會(huì)內(nèi)部寬泛的合理性,，研究規(guī)范行為、表達(dá)行為等等人類實(shí)踐如何真正在共識(shí)中建立交往實(shí)踐,，避免誤解與沖突,。

    同樣，當(dāng)人工智能全面超越人類的智能時(shí),，當(dāng)機(jī)器在日常工作領(lǐng)域的效率遠(yuǎn)超勞動(dòng)力時(shí),，人和機(jī)器的相處將成為極其嚴(yán)肅的倫理討論。阿西莫夫在其著名科幻小說　《我,，機(jī)器人》　的開篇提到了機(jī)器人學(xué)的三定律:第一定律,，機(jī)器人不得傷害人，也不得見人受到傷害而袖手旁觀;第二定律,，機(jī)器人應(yīng)服從人的一切命令,，但不得違反第一命令;第三定律,，機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一,、第二定律,。阿西莫夫在科幻小說里提到的三定律，規(guī)定了機(jī)器人在與人類相處時(shí)候的三條鐵律,。有意思的是,，如果聯(lián)想到近代政治哲學(xué)的奠基之作《利維坦》，霍布斯談?wù)撊祟愒谧匀粻顟B(tài)下的第一條自然律是,，人們禁止毀滅自己的生命，并且可以盡可能自我保全,。人類首先要自利于自己的性命,，再去考慮同別人相處，但是在阿西莫夫這里,，機(jī)器人是要到第三定律才能考慮保護(hù)自身,。

    馮象認(rèn)為，阿西莫夫所設(shè)立的三條定律在現(xiàn)實(shí)世界非常難以執(zhí)行,。就第一條定律而言,，我們非常難以界定傷害人類的定義，傷害總是從法律意義上的后果這一角度來衡量,，沒有后果就很難稱為傷害,。因?yàn)閷?dǎo)致后果的情節(jié)與動(dòng)機(jī)千差萬別，最終往往難以實(shí)現(xiàn)判斷,。另一方面,，人工智能對(duì)于分析因果律的能力非常一般，它的思維并非按照嚴(yán)格的因果律思維,，而是采用概率論,。人類社會(huì)中的道德、倫理行為不同于自然科學(xué)中客觀的因果律,，對(duì)于人工智能來說,，要在具體道德情境中會(huì)面對(duì)非常具體的道德選擇，如依照其思維就無法做出正確判斷,。就第二條定律來說,，人類的意見往往不統(tǒng)一，有時(shí)候也會(huì)前后矛盾,，一旦出現(xiàn)這種情況,，機(jī)器服從人的一切命令就遇到了困難，它可能需要在人類命令中選擇一條,，造成執(zhí)行上的困難,。既然第一,、第二條定律都遇到問題，以前兩條定律為前提的第三條定律就更不消說了,。

    其實(shí),，表面上看阿西莫夫?yàn)槿藱C(jī)關(guān)系設(shè)立的三條定律，相較于　《利維坦》　給人類社會(huì)設(shè)立的自然律差別非常大,，但是它們其實(shí)有相通之處,。阿西莫夫筆下的機(jī)器人被要求保護(hù)人類勝于保護(hù)自己，這恰好不就是　《利維坦》　第一自然律的未來運(yùn)用么?　人類總是將自我保存放在首位,，當(dāng)機(jī)器智能超越人類,，并且有可能對(duì)人類造成巨大威脅時(shí)，那么出于自我保存的原則,，機(jī)器人一定不可以像人類一樣,，以保存自己作為第一原則。

    馮象提到,，人類可以繼續(xù)討論究竟以何種方式制定人機(jī)相處的原則,，首要考慮人的價(jià)值，以及支撐著人類價(jià)值的現(xiàn)代文明制度,。就現(xiàn)有情況來看,，人類社會(huì)面臨著幾項(xiàng)無可爭議的前提事實(shí): (1)人工智能逐步取代勞動(dòng)力之后，大量勞動(dòng)力將失去工作機(jī)會(huì),，轉(zhuǎn)向依靠由人工智能創(chuàng)造出的社會(huì)福利才能生活;(2)建立公平公正的福利社會(huì)已成為人人向往的共識(shí),，發(fā)達(dá)國家必須無限提高福利水平;然而，就今天發(fā)生在歐洲的難民危機(jī)來看,，人類社會(huì)現(xiàn)有的私有制及其理念尚無法兼容人類自身的問題,，前往歐洲的難民在勞動(dòng)力過剩的情況下難以找到合適的工作，歐洲社會(huì)一方面出于人道主義理念不得不接收難民,，另一方面也為難民在現(xiàn)有社會(huì)秩序與經(jīng)濟(jì)結(jié)構(gòu)中的安置大傷腦筋,。最終，人類的現(xiàn)代文明制度究竟在多大程度上尊重人的價(jià)值,、服務(wù)于人的價(jià)值,，不僅是當(dāng)前的難題，也將是未來的難題,。

    馮象認(rèn)為,，人的問題就是有關(guān)幸福的問題。他引用奧古斯丁在　《上帝之城》　最后部分有關(guān)第七天的討論作結(jié),，“第七日,，創(chuàng)世結(jié)束，上帝歇工。他為第七日賜福,，定為圣日,。因?yàn)樵谶@一天上帝完成了創(chuàng)世，休息了,?！?《創(chuàng)世紀(jì)》)奧古斯丁寫道:“那時(shí)候我們會(huì)充滿和洋溢著福澤與神圣，自己就是第七日,。在那里,，我們將會(huì)休息，看到他就是上帝,?！瘪T象說，第七日一定要屬于人類,，這意味著人類未來的命運(yùn)一定是要屬人的,。人與機(jī)器的和諧共處，無論具體上如何實(shí)現(xiàn),，最終人們一定要在與人工智能共存的未來,，獲得屬于人性的幸福,。