【導(dǎo)語(yǔ)】
許多科幻小說(shuō)和電影都描述過(guò)這樣的場(chǎng)景：人類(lèi)制造的機(jī)器人產(chǎn)生了自我意識(shí),，并開(kāi)始與人類(lèi)為敵,，最終擁有人工智能的機(jī)器人幾乎摧毀了人類(lèi)文明。近年來(lái),，隨著科技進(jìn)步,，機(jī)器人所擁有的人工智能也越來(lái)越先進(jìn)，于是,，很多人都提出了“機(jī)器人威脅論”,，認(rèn)為小說(shuō)和電影里的場(chǎng)景將有可能發(fā)生。
昨天,，在德國(guó)大眾汽車(chē)制造廠發(fā)生的一幕似乎印證了這種擔(dān)心,，一名年僅21歲的技術(shù)人員在與同事一起安裝機(jī)器人的時(shí)候，機(jī)器人突然抓住了他的胸部,，然后使勁壓在一塊鐵板上,，最終這名技術(shù)人員因傷重不治身亡。同樣在昨天,，特斯拉CEO馬斯克宣布,，已經(jīng)投入1000萬(wàn)美元用以評(píng)估與人工智能相關(guān)的風(fēng)險(xiǎn)。
不僅是馬斯克,，站在悲觀角度上的人還包括斯蒂芬·霍金,、比爾·蓋茨等，他們是站在科技最前沿,、看得最遠(yuǎn)的人,。或許,，他們對(duì)機(jī)器人等人工智能的質(zhì)疑和警告或許并不只是杞人憂(yōu)天,。

●人工智能發(fā)展到什么程度了,？
人工智能是計(jì)算機(jī)學(xué)科的分支，它是對(duì)人的意識(shí),、思維的信息過(guò)程的模擬,。美國(guó)麻省理工學(xué)院教授溫斯頓說(shuō)：“人工智能就是研究如何使計(jì)算機(jī)去做過(guò)去只有人才能做的智能工作?！蹦乾F(xiàn)在具有人工智能的機(jī)器人到底能做些什么呢？
在很多人意識(shí)里,，人工智能還是工廠里的那些機(jī)器人,。飛利浦公司在中國(guó)有很多工廠，成百上千的工人使用特制工具手工裝配電動(dòng)剃須刀,；在荷蘭郊外同樣的一所工廠中,，128臺(tái)機(jī)械臂靈活地做著同樣工作。這些帶攝像頭的機(jī)器臂的技藝比最有經(jīng)驗(yàn)的工匠還靈巧,。

當(dāng)今大部分自動(dòng)化工廠里,，機(jī)器人還在執(zhí)行著單一的程序，但是在特斯拉的生產(chǎn)工廠里,，已經(jīng)有不少兩米多高的紅色機(jī)器人,，像一個(gè)個(gè)“終結(jié)者”。每個(gè)機(jī)器人已經(jīng)可以獨(dú)立完成焊接,，鉚接,，粘合，安裝部件的工序,。在生產(chǎn)線(xiàn)上,，每隔五分鐘就會(huì)有一輛車(chē)停留在加工點(diǎn)，接下來(lái)就有八臺(tái)機(jī)器人各司其職的工作,。
但是根據(jù)《經(jīng)濟(jì)學(xué)人》雜志的分析,，這些所謂的人工智能都是應(yīng)用于某一具體領(lǐng)域狹隘的能力。歸根結(jié)底,，是強(qiáng)大的數(shù)據(jù)處理能力而達(dá)到與人腦智力的“形似”,，但至于如何模仿人的自主性、喜惡和欲求,，成果則很少,。
如今，通過(guò)“深度學(xué)習(xí)”系統(tǒng),，即對(duì)某個(gè)人類(lèi)大腦表層的神經(jīng)元進(jìn)行復(fù)制并吸收大量數(shù)據(jù),，人工智能已經(jīng)有了更高級(jí)的表現(xiàn)。
人工智能已經(jīng)可以自學(xué)完成包括從模式識(shí)別到翻譯等在內(nèi)的任務(wù),。以前曾經(jīng)還需要人腦完成的事情——如解釋圖片或玩一盤(pán)電子游戲,，現(xiàn)在已經(jīng)成為了電腦程序的一部分,。2014年在Facebook上公布的DeepFace算法，已經(jīng)能對(duì)不同的人臉以97%的概率準(zhǔn)確識(shí)別,。

在更多領(lǐng)域,，人工智能技術(shù)已經(jīng)能夠通過(guò)彌補(bǔ)人類(lèi)的能力極限來(lái)推進(jìn)人類(lèi)的開(kāi)拓進(jìn)程。比如國(guó)際象棋,，如今計(jì)算機(jī)能比人玩得還要好,，1997年，“深藍(lán)”機(jī)器人就戰(zhàn)勝了世界冠軍卡斯帕羅夫?，F(xiàn)在,，世界上最優(yōu)秀的玩家既不是機(jī)器也不是人，而是一群被卡斯帕羅夫稱(chēng)之為“半人馬”的組合：一群由人類(lèi)與計(jì)算機(jī)演算法配合組成的團(tuán)隊(duì),。
這樣的人機(jī)組合可能將在未來(lái)成為各種工作與活動(dòng)中的常規(guī)：在人工智能的輔助下,，醫(yī)生們?cè)卺t(yī)療圖像中發(fā)現(xiàn)癌細(xì)胞的能力將大大增強(qiáng)；智能手機(jī)里的語(yǔ)音識(shí)別算法將使數(shù)百萬(wàn)不識(shí)字的人們也能夠進(jìn)入互聯(lián)網(wǎng)的世界,；數(shù)字助理將能夠?yàn)閷W(xué)術(shù)研究提出更靠譜的假設(shè),；圖片分類(lèi)算法將使得便攜式計(jì)算機(jī)能夠幫助人們對(duì)現(xiàn)實(shí)世界的事物分類(lèi)出更實(shí)用的信息。

●機(jī)器人為人類(lèi)提供了便利,，為什么還有人感到焦慮,？
當(dāng)前人工智能雖然對(duì)人類(lèi)的幫助很大，但還是有不少人一直對(duì)它抱有懷疑態(tài)度,，其中不乏站在科技前沿的人們,。
人類(lèi)歷史上最偉大的物理學(xué)家之一霍金就說(shuō)：“我們已經(jīng)擁有原始形式的人工智能，而且已經(jīng)證明非常有用,。但我認(rèn)為人工智能的完全發(fā)展會(huì)導(dǎo)致人類(lèi)的終結(jié)……一旦經(jīng)過(guò)人類(lèi)的開(kāi)發(fā),，人工智能將會(huì)自行發(fā)展，以加速度重新設(shè)計(jì)自己,。由于受到緩慢的生物演化的限制,，人類(lèi)不能與之競(jìng)爭(zhēng)，最終將會(huì)被代替,?！?br>比爾·蓋茨也表示：“如果我們處理得很好的話(huà)，這應(yīng)該是具有積極意義的,。那之后的幾十年,，人工智能會(huì)強(qiáng)大到足以引起人們的關(guān)注?！碧厮估瑿EO馬斯克更是不止一次在公開(kāi)場(chǎng)合表示,，人工智能將成為巨大威脅：“我們需要萬(wàn)分警惕人工智能，它們比核武器更加危險(xiǎn),！”
上世紀(jì)90年代以來(lái),，確實(shí)爆發(fā)過(guò)多起機(jī)器人“殺人”事件：1999年的兩個(gè)月內(nèi),，美國(guó)一家肉食品加工廠的兩名工人就因?yàn)檎`操作啟動(dòng)機(jī)器人不幸身亡；2001年,，一名汽車(chē)廠工人在進(jìn)入機(jī)器人防護(hù)籠進(jìn)行清潔工作時(shí)被機(jī)器人扼住喉嚨壓迫在滾輪下最終窒息身亡,；2006年，一位女工被機(jī)器人挾住頸部釘在焊接機(jī)上,，當(dāng)場(chǎng)遇難……

當(dāng)然,，這些只是機(jī)器人低水平的“殺人”，讓科技大佬和物理學(xué)家共同感到擔(dān)心的是：人類(lèi)發(fā)展機(jī)器人是為了讓機(jī)器人更加智能,、更好地為人類(lèi)服務(wù),，可是，當(dāng)機(jī)器人的發(fā)展程度超過(guò)某種程度時(shí),，機(jī)器人又很可能成為一種新的具備自我意識(shí)的個(gè)體，這個(gè)時(shí)候,，這種人類(lèi)歷史上從未出現(xiàn)過(guò)的新物種是否還會(huì)甘于僅僅是服務(wù)于人類(lèi)呢,？
就像是幾個(gè)月前上映的漫威電影《復(fù)仇者聯(lián)盟之奧創(chuàng)紀(jì)元》，鋼鐵俠締造奧創(chuàng)是希望它能夠拯救人類(lèi),，而奧創(chuàng)則脫離了人類(lèi)的控制擁有了自己的思維,，試圖毀滅人類(lèi)。

●擁有自我意識(shí)的機(jī)器人會(huì)是什么樣,？
機(jī)器人是否像人一樣具有自我意識(shí),，這也是有了機(jī)器人以來(lái)，人們普遍擔(dān)心,、并且充滿(mǎn)爭(zhēng)議的議題,。而無(wú)數(shù)的好萊塢電影曾反復(fù)展現(xiàn)過(guò)這一問(wèn)題。最為人熟知的,，可能就是阿諾·施瓦辛格主演的電影《終結(jié)者》當(dāng)中的形象,，當(dāng)然，這是一款殺人機(jī)器人,，從未來(lái)派過(guò)來(lái)要?dú)⒑ξ磥?lái)抵抗運(yùn)動(dòng)領(lǐng)導(dǎo)者的母親,。
威爾·史密斯主演的電影《我，機(jī)器人》則相對(duì)《終結(jié)者》進(jìn)行了更加深入的思考,。它講述了這樣一個(gè)故事：公元2035年,，智能型機(jī)器人已被人類(lèi)廣泛利用。作為最好的生產(chǎn)工具和人類(lèi)伙伴,，機(jī)器人在各個(gè)領(lǐng)域扮演著日益重要的角色,，而由于眾所周知的機(jī)器人“三大安全法則”的限制，人類(lèi)對(duì)這些能夠勝任各種工作且毫無(wú)怨言的伙伴充滿(mǎn)信任,，它們中的很多甚至已經(jīng)成為一個(gè)家庭的組成成員,。就在此時(shí),，一起“機(jī)器人犯罪”事件意外地發(fā)生了，“機(jī)器人之父”阿爾弗萊德·朗寧博士在辦公室被機(jī)器人殺害,。之后,，機(jī)器人并開(kāi)始對(duì)人類(lèi)進(jìn)行殺戮。
機(jī)器人的三定律就是著名的科幻小說(shuō)作家阿西莫夫在小說(shuō)中對(duì)機(jī)器人行為進(jìn)行的設(shè)定：機(jī)器人不得傷害人類(lèi),，或因不作為使人類(lèi)受到傷害,；除非違背第一法則，機(jī)器人必須服從人類(lèi)的命令,；在不違背第一及第二法則下,，機(jī)器人必須保護(hù)自己。
幾十年來(lái),，“機(jī)器人三定律”被默認(rèn)為人工智能領(lǐng)域的天條,，很多人沒(méi)有想過(guò)，人工智能機(jī)器人是否能進(jìn)化出自我意識(shí),。很多人也沒(méi)有思考過(guò),，機(jī)器人違背第一法則怎么辦？

這樣的事情并非不可能發(fā)生,，美國(guó)康奈爾大學(xué)創(chuàng)意機(jī)器人實(shí)驗(yàn)室主任利普森說(shuō)：“從兩年前決定不要去設(shè)計(jì)機(jī)器人，而是培養(yǎng)機(jī)器人,，即把很多機(jī)器人的部件放到模擬器,，讓它進(jìn)行演變,。隨著時(shí)間的推移,，產(chǎn)生突變，培養(yǎng)它,，變成機(jī)器人了,。”
為什么是現(xiàn)在來(lái)討論機(jī)器人的自我意識(shí),？利普森說(shuō)：“一是3D打印技術(shù)的成熟,，由于3D打印的特點(diǎn)，未來(lái)機(jī)器人不會(huì)由零部件構(gòu)成,，會(huì)直接打?。涣硪环矫?，是深度學(xué)習(xí)的發(fā)展,。該概念源于人工神經(jīng)網(wǎng)絡(luò)的研究，通過(guò)組合低層特征形成更加抽象的高層表示屬性類(lèi)別或特征，以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示,。經(jīng)過(guò)十幾年的發(fā)展,，如今很多人都在嘗試深度網(wǎng)絡(luò)，進(jìn)行自我訓(xùn)練,，這是人工智能領(lǐng)域的巨大突破,。”
利普森描述了一次深度學(xué)習(xí)時(shí)遭遇機(jī)器人的自我意識(shí)：“一次深度網(wǎng)絡(luò)的圖像識(shí)別中,，培訓(xùn)神經(jīng)網(wǎng)絡(luò)在一堆圖片中區(qū)分貓和狗的圖片,，然而，其中屏幕里一個(gè)神經(jīng)網(wǎng)絡(luò)開(kāi)始追蹤起顯示器外的兩位科學(xué)家的面部了,。要知道這個(gè)網(wǎng)絡(luò)并不是用來(lái)定義為來(lái)臉部追蹤,，而它慢慢學(xué)會(huì)了跟蹤人臉，跟蹤攝像頭前面的兩張人臉,，這是令人驚訝驚喜的技術(shù),。”

2014年6月,，英國(guó)雷丁大學(xué)宣布,，有一個(gè)計(jì)算機(jī)程序成功讓人類(lèi)相信它是一個(gè)13歲的男孩，從而成為有史以來(lái)首臺(tái)通過(guò)“圖靈測(cè)試”的機(jī)器,，這意味著機(jī)器也能像人類(lèi)一樣“思考”。圖靈測(cè)試是指測(cè)試人在與被測(cè)試者(機(jī)器)隔開(kāi)的情況下,，通過(guò)一些裝置(如鍵盤(pán))向被測(cè)試者隨意提問(wèn),。問(wèn)過(guò)一些問(wèn)題后，如果被測(cè)試者超過(guò)30%的答復(fù)不能使測(cè)試人確認(rèn)出哪個(gè)是人,、哪個(gè)是機(jī)器的回答,，那么這臺(tái)機(jī)器就通過(guò)了測(cè)試，并被認(rèn)為具有人類(lèi)智能,。

●機(jī)器人會(huì)造反嗎,？
這是個(gè)很難有答案的問(wèn)題。
在樂(lè)觀者人看來(lái),，人工智能的研究是希望機(jī)器的智能能夠接近于人類(lèi),，但是人類(lèi)所具有的最重要的智能表現(xiàn)——?jiǎng)?chuàng)造性，卻是機(jī)器人永遠(yuǎn)都難以超越的,，它只能遵照人類(lèi)為它設(shè)定的程序來(lái)執(zhí)行,。
而且，就好比軍隊(duì)需要受?chē)?guó)民的監(jiān)督,，市場(chǎng)需要受法規(guī)的管理,，而政府的行動(dòng)必須透明、負(fù)責(zé)，人工智能系統(tǒng)也必須公開(kāi)接受公眾的詳細(xì)監(jiān)查,。由于系統(tǒng)的設(shè)計(jì)者并不能預(yù)見(jiàn)每一種后果,，設(shè)置一個(gè)中斷系統(tǒng)的手段也是必須的。這些約束可以在不影響發(fā)展的情況下實(shí)施,。從核導(dǎo)彈到交通法規(guī),，人類(lèi)已經(jīng)通過(guò)科學(xué)和法律來(lái)約束重大創(chuàng)新。
但這些并不能打消另一些人的憂(yōu)慮：擁有自我意識(shí)的人工智能是否會(huì)甘于遵循人類(lèi)既定的三大法則,？更讓人不安的地方在于,，永遠(yuǎn)不知道機(jī)器人造反究竟時(shí)候到來(lái)，也并不知道機(jī)器人是否實(shí)際上已經(jīng)具備了自我意識(shí),。
還有來(lái)自霍金的擔(dān)憂(yōu)：“計(jì)算機(jī)具備的人工智能將會(huì)在未來(lái)100年中的某個(gè)時(shí)點(diǎn)超越人類(lèi)的智能,。當(dāng)這種情形發(fā)生時(shí)，我們必須確保計(jì)算機(jī)是站在人類(lèi)這邊的,?！比绻斯ぶ悄芘c它的主人想法不一樣該怎么辦？目前還難以給出答案,。
于是,，同樣擁有這種擔(dān)心的馬斯克昨天宣布已經(jīng)投入1000萬(wàn)美元用以評(píng)估與人工智能相關(guān)的風(fēng)險(xiǎn)。人類(lèi)現(xiàn)在確實(shí)處于這樣一種境地：一方面,，人們正或多或少地享受著人工智的誘惑,，另一方面，人工智能的“恐怖谷效應(yīng)”又是無(wú)法回避的客觀存在,。