在2002年的一篇文章中,，伯斯特羅姆這樣定義人工智能的威脅：“消滅地球上的智能生命或者永久性遏制其潛能,。”在他看來,，出現(xiàn)這些可怕結(jié)果的可能性雖然很低,，但潛在的代價巨大，因此非常有必要采取措施消除這種威脅,。伯斯特羅姆認為導致這種災難的原因可能是有意的,，也可能是無意的，很多研究領域都有可能扮演災難制造者的角色,，其中包括生物科技,、納米技術(shù)以及人工智能,。

科技大佬伊隆·馬斯克，認為研究人工智能是在“召喚惡魔”

現(xiàn)在,，人工智能或者說機器智能正快速提高,，很多知名科技公司都在大力研究深度學習。在德國之翼9525號航班墜毀以及類似悲劇發(fā)生之后,，很多人意識到人工智能更有可能保護我們,，讓我們不會成為人為錯誤操作的犧牲品，而不是對全人類的存在構(gòu)成威脅,。

在對人工智能造成的恐懼心理進行研究之后,，我得出了一個結(jié)論。這種恐懼源自于一種擔心,，擔心人工智能的研究和使用缺乏必要的監(jiān)管,，進而導致意外后果。馬斯克將人工智能視為人類存在的最大威脅,，建議在國家和國際層面上對其進行監(jiān)管,。他說：“我們一定要確保一點，那就是決不能做非常愚蠢的事情,?！?/p>

對于一些科技大佬們的恐懼，人工智能先驅(qū),、已對人工智能進行30年研究的杰夫·霍金斯以一篇名為“終結(jié)者不會到來，未來會感謝我們”的文章進行反駁,。他指出自我復制和自我意識并非由智能產(chǎn)生,，人工智能也必須遵守物理學定律。研制智能機器并不意味著這些機器將擁有自我意識,、感情或者自我復制的能力,。

有感情的機器可能在將來的某一天成為現(xiàn)實，如何遏制,、約束或者激勵這些機器是伯斯特羅姆在《超級智能》中表達的最為擔心的問題,。霍金斯指出研制擁有自體感的機器與研制智能機器是兩個截然不同的問題,。如果智能機器產(chǎn)生提高自身能力的動機,，伯斯特羅姆擔心的事情才會發(fā)生。

未來的智能機器人

在2014年都柏林舉行的網(wǎng)絡峰會上接受采訪時,，PayPal聯(lián)合創(chuàng)始人彼得·泰爾從政治角度闡述超級智能問題,，將其比作登陸地球的外星人。他說：“如果外星人明天登陸這顆星球,，我們首先要問的問題并非他們的到來對經(jīng)濟意味著什么,，而是政治層面的問題,。他們是否友好？是否心存惡意,？我覺得與人工智能有關(guān)的政治問題非常重要,。我認為我們對人工智能的直覺認識非常落后?！?/p>

對于科技大佬們的擔憂以及最近在西南偏南音樂節(jié)上爆發(fā)的反機器人抗議,，泰爾將原因歸咎于公眾對這項技術(shù)普遍存在的恐懼心理和誤解。他說：“我有一個與大眾想法相反的觀點,，我們并不真正生活在一個科技的時代,。科技業(yè)的一些從業(yè)者是當今社會的反正統(tǒng)文化群體,。好萊塢的科幻影片經(jīng)常描寫科技惡的一面,，屠殺人類，反烏托邦,，摧毀世界,。”

                                              科幻大片《機械公敵》中的智能機器人

人工智能與合成生物學有很多相似之處,，二者都擁有極大的潛力,，能夠給人類帶來巨大福音。此外,，它們都讓流行文化陷入歇斯底里,。對于人工智能與合成生物學，我最擔心的是可能濫用這些技術(shù)的心懷叵測者的動機,，而不是這些技術(shù)本身為惡的能力,。

我們應該牢記一點，無論是自然還是人造事物都遵循物理學定律,，記住這一點有助于我們緩解對科技的無理性恐懼,。正如阿德里安·貝揚在其著作《自然中的設計》指出的那樣，自然和科技世界都是流系統(tǒng),，隨著時間的推移進化,，提高在系統(tǒng)中穿過的事物的流動性。電子,、人口和貨幣都遵循相同的準則,。

在我看來，當前針對人工智能的爭論實際上就是數(shù)學與科學的一場較量,。在當前的深度學習運動中,，現(xiàn)任Facebook人工智能部門主管雅恩·樂昆是最為重要的人物之一。對于當前的人工智能,，樂昆表示：“還有一些很基本的東西我們沒有搞清楚,。在前進的道路上,，我們會遭遇很多技術(shù)障礙。深度學習技術(shù)讓我們看到了希望,。我們一直不斷進步,。我們不知道下一堵墻在哪。我們繼續(xù)取得進步的機會很大,。我們并不知道極限在哪,。”

《終結(jié)者3:機器的崛起》

如果人工智能的本質(zhì)就是對外部數(shù)據(jù)流的預測和做出反應,，我們又當如何監(jiān)管,？答案并非人工智能本身，而是何人輸入數(shù)據(jù),。這是一種正確的做法,，但對于科技公司來說卻也是一個痛點，雖然這是一種可以理解的痛,?？萍脊窘?jīng)常抱怨稱監(jiān)管束縛了他們的創(chuàng)新能力。

我不認為馬斯克或者其他科技大佬因可能構(gòu)成的威脅反對人工智能是一種不負責任的做法,，但這種態(tài)度轉(zhuǎn)移了公眾的注意力,。我認為緩解公眾對新技術(shù)恐懼心理的最佳方式就是讓公眾意識到“我們能夠成為新技術(shù)的受益者”。煽動對人工智能的恐懼情緒所能產(chǎn)生的一個非故意副作用就是政府可能迫于公眾壓力制定監(jiān)管政策,，但這種做法往往適得其反,。