撰文：徐鴻鵠  ｜ 編輯/排版：王曉峰 ｜校版：胡靜文

夢想照不見細節(jié)

一個產(chǎn)業(yè)過去的歷史,，并不能幫助你看到更久遠的未來,。越是陷入到一件事情的細節(jié)當(dāng)中，你就越是敬畏它,。

這就是汽車的智能化正在發(fā)生的事情,。

細節(jié)有多么的不堪？程序員分分鐘教你做人：

科恩實驗室的研究人員就動起了“歪腦筋”,，一個簡單的圖像干擾就能自動啟動雨刷,。路邊上隨便放一個貼紙，就能欺騙特斯拉Model S進入反向車道,。

當(dāng)然,，不要說人工智能，在更早期,，就連SQL數(shù)據(jù)庫也早就被淪陷了,。

這里的結(jié)論不言自明了！千萬別惹程序員,！

但這背后還有更大的擔(dān)憂：

當(dāng)人們滿懷期望期待著一件好東西到來的時候,，它往往來的既遲緩又艱難，而且它還附帶著各種各樣的令人急不得惱不得的細瑣麻煩的事：一切人們在幻想里沒有顧及到的現(xiàn)實的灰塵,。

在許多領(lǐng)域,，努力不是一個跌宕起伏、激動人心的過程,，而是一個枯燥的過程——通過機械操作達到目的的過程,。

談太多理想，只是好高騖遠而不踏實,，于是就有人說：“我看不到自己的未來,！”,。

別矯情了，你只是看不到你喜歡的未來,。

你的未來有什么可看不到的,，你仔細看看，可凄慘了,。

當(dāng)今機器人身體的敏捷程度和感知能力,，大概相當(dāng)于蟑螂的水平。

而那些最先進的,，也許能達到蟾蜍的水平,。

汽車，則不同于其它種類的機器人,，有一個巨大的優(yōu)勢：它是滾動的,，比爬行要簡單得多——就以側(cè)邊停車為例，驅(qū)動車輪和車輪轉(zhuǎn)向兩個自由度就可以實現(xiàn)快速建模,。

駕駛可以自動化的一個理由在于,，開車是一項機械和刻板的反應(yīng)式活動——無論智力高低都能拿到駕照。因此無人駕駛只要滿足一個條件就可以上路了：對清晰可見的路面危險能有效識別判斷并遵守交通規(guī)則,。

很簡單是吧,？

的確，如果無人駕駛就這么簡單,，那它幾十年之前就該普及了,。

問題就在于，駕駛是一種矛盾的任務(wù)：重復(fù)刻板,，而又潛藏各種突發(fā)狀況,。

電影《星際穿越》里，有這樣一段對白：

庫帕：怎么了墨菲,？

墨菲：為什么你和我媽要用不好的事給我取名,？

庫帕：我們沒有。

墨菲：墨菲定律呢,？

庫帕：墨菲定律并不是說有壞事發(fā)生,，而是說只要有可能的事，就一定會發(fā)生,。而這聽起來沒什么不好,。

墨菲定律的意思是，很多突發(fā)狀況,，都可以與它之前發(fā)生的任何事情,，沒有任何因果間的必然聯(lián)系。那些獨立的隨機事件,，是無法被預(yù)測的,，它們毫無規(guī)律可言,。

不管是灰犀牛（常見的習(xí)以為常的風(fēng)險），是黑天鵝,，還是亞馬遜河上游煽動翅膀的那只蝴蝶（罕見的出人意料的風(fēng)險）,，這些潛在會帶來突發(fā)后果的概率事件，本質(zhì)上都是“隨機性”在發(fā)生作用,。

一旦接受了這種世界觀,，就意味著：事件是不可預(yù)測的，所以我們必須打開心態(tài),，去適應(yīng)它們帶來的變化和影響,。

人類長久的策略是依賴自然進化出的“本能”來應(yīng)對“突發(fā)狀況”。而無人車則是在封閉環(huán)境里構(gòu)造和設(shè)計出來的,，限制就更大了，必然也存在“致命的本能”：

• 復(fù)雜的非語言信息溝通,，即讀取復(fù)雜情景的能力

• 多種光線,，角度，情景下正確識別同一個物體,，即加工處理視覺信息的能力

機器的這兩個硬傷,，都涉及到“知覺”這一人類才能掌握的神秘技藝。

不管是時間信息的感知（無人車的目標(biāo)行為預(yù)測）,，還是空間信息的感知（無人車圖像識別）,，都需要無人車具備這種些能力，然而人工智能領(lǐng)域開辟半個世紀(jì)多了,，我們卻還壯志未酬,。

這種能力的獲取只有一個途徑：通過機器學(xué)習(xí)算法（比如深度學(xué)習(xí)）賦予機器“不依賴規(guī)則”的能力。這就像是一個潘多拉魔盒,，一旦被打開,，關(guān)于無人車道德和生命權(quán)的爭論便會永無休止。

如果不去觸碰它呢,？遠方又令人心癢難耐,，念念不忘。人類幾千年的文明史一直都是渴望駛向未知的大海,，遠涉驚濤阻隔的重洋,，攀援野人棲遲的海岸.....

人類不折騰，上帝會發(fā)笑,。

現(xiàn)今無人車技術(shù)增長的驅(qū)動力,，通常是由更大的內(nèi)存，更快的計算機和網(wǎng)絡(luò)連接,，更好的分布式計算基礎(chǔ)設(shè)施,，和更大的可用數(shù)據(jù)集驅(qū)動的,。

然而，刷數(shù)據(jù)依舊是蠻力思維,，低水平量變的堆積并不能完全消解惱人的“隨機性”,，只有通過高水平的認知，才有可能達成質(zhì)變并完成無人車的逆襲,。

來做個思想實驗,，想象一個場景：

無人車路試有100個“驚喜”在等著它，而這輛車跑上10億英里的話,，所有的100個“驚喜”當(dāng)中的每一個都能遇到10次,，不出意外的話，我們通過路試暴露問題能并做出修正,，從而實現(xiàn)100%的提升,。

如果外面的世界有10萬個“驚喜”在等著我們呢？這輛車跑上1萬億英里,，也只能夠遭遇1000個“驚喜”,，才1%的bug覆蓋率和提升！

而在我們的世界里,，驚喜遠遠不止“10萬個”這么少,，有限的時間里，1萬億英里已經(jīng)是個天文數(shù)字般艱巨的任務(wù)了,，但不經(jīng)歷這些里程的話,，我們絕對無法實現(xiàn)哪怕1%的進步。

蠻力測試思維遭遇瓶頸：訓(xùn)練和教授經(jīng)驗的方式永遠沒有盡頭,。而也許探索機器智能的邊界和新的形式,，讓機器自主進行高級決策，才是我們最該深耕的路線,。

而以人類現(xiàn)有的智慧,，我們還不清楚如何達成高水平的認知,，實現(xiàn)通用智能,。

終極無人車無法落地的核心問題所在,，更大的危機其實是來源于深刻的數(shù)學(xué),，我們可能從最開始就走錯了路,！

中科院數(shù)學(xué)所陸汝鈴院士曾說：“數(shù)學(xué)之大,，就像大海,，難道只有統(tǒng)計方法適合機器學(xué)習(xí)的應(yīng)用么,？”中國機器學(xué)習(xí)領(lǐng)域的開拓者,，已故的王鈺教授也曾經(jīng)質(zhì)疑過：“自然界的現(xiàn)象千變?nèi)f化,，哪來的那么多獨立同分布呢？”

——獨立同分布被視為為解決統(tǒng)計學(xué)問題所做的最重要的基礎(chǔ)假設(shè),，正確的世界觀是概率描繪的,，只有概率能夠解釋隨機性,，但正是這一前提剝奪了無人車安全所奉行因果論的普適性。

無論無人汽車的發(fā)展路線如何展開,，都始終繞不開人工智能軟件這一核心的問題,。軟件無疑是站在概率一方的，可安全卻是站在因果一方的,。我們無意探討更深層次的哲學(xué)話題,，去比較因果論和概率論，但這個矛盾無疑是無人車發(fā)展上的最大障礙,。

人們于是尋求捷徑,，既然100%無法實現(xiàn)，是否能夠退而求其次呢,？也就是說,，只要機器智能超越了人類的水平，而不是完美安全,，就可以接受,？

我們知道，更大的計算網(wǎng)絡(luò)往往代表復(fù)雜任務(wù)里更高的精度,，計算網(wǎng)絡(luò)依賴量變的堆積,，如果有朝一日計算系統(tǒng)規(guī)模達到人腦的水平的話,，是否能夠帶來質(zhì)的飛躍變得和人類一樣智能呢,？

這個問題似乎已經(jīng)超出了我們的理解。

以現(xiàn)在的網(wǎng)絡(luò)規(guī)模,，從計算系統(tǒng)的角度來看可能相當(dāng)大,，但實際上它比青蛙的神經(jīng)系統(tǒng)還要小。如果沒有全新的技術(shù)誕生,，按現(xiàn)在的規(guī)模和能力線性推演下去,，至少要到21世紀(jì)50年代，人工神經(jīng)網(wǎng)絡(luò)才能具備與人腦相同數(shù)量級的神經(jīng)元,。

不如保留這個問題等待未來的回答：如果終有這一天,，機器學(xué)習(xí)算法用到的神經(jīng)元的數(shù)量級和人類打平的話，無人車智能是否堪用呢,？

預(yù)測的科技未來,，依照物理實現(xiàn)的可能性，大體可以分成三類吧：

• 物理上可能

• 物理上不禁止

• 物理上不可能

第一種完全是可行的,，只是科技還沒跟上而已,，比如移民火星。

第二種是目前還沒有找到不可能的理由,，但也沒保證一定可以,，比如宇宙蟲洞,。

第三種則是物理上已經(jīng)明明說了不可能，但人們?nèi)匀徊环艞?，比如永動機,。

L4級別的無人車也許算作是第一種，可L5級別就難說了,，這關(guān)乎人工智能的發(fā)展,，可能是第二種，也可能是第三種,。

盡管人們總覺得無人車這樣的新興技術(shù)更像是孤僻的天才發(fā)明家用新奇的方式憑空創(chuàng)造的,，但實際上它是重組創(chuàng)新的絕佳案例。這是一項需要40-50個領(lǐng)域協(xié)同發(fā)展才能實現(xiàn)的技術(shù),，只有采用創(chuàng)新的方式,，把它們組合在一起，才能成大氣候,。

如果L5無人車不幸落入了第三種選擇里,，我唯一能想象到的解決方案，或許就是道格拉斯·亞當(dāng)斯在《銀河系漫游指南》里描寫的那臺“無限非概率引擎”了吧：

無限非概率引擎是這樣一種圣物,，完全逃脫了概率論的束縛,，“非概率”的解釋就是概率無限趨近于零的事件都百分之百地發(fā)生。按照這個引擎的尿性,，它只要說服自己無人車這件不可能的事情是可能的,，并且裝模做樣地計算一下概率，無人車就呼的一下真的出現(xiàn)了,。

回到現(xiàn)實,，無人車就是一場馬拉松，而此時此刻,，我們連半程中點都還沒有達到,，前半程無數(shù)玩家都在拼硬件拼算力，力圖拿到一個好的評分,，可這個分數(shù)又能說明什么呢,？

有人說，似乎唯一顯得公平的指標(biāo)的就是無人汽車公司的估值了吧,！畢竟萬千變數(shù)都被量化,，濃縮在一串阿拉伯?dāng)?shù)字當(dāng)中。

但在這件事情上，人類也離不開“隨機性”,，畢竟風(fēng)險投資也是從小概率重要事件中受益的——來自未知事件和新事物的報酬通常遠超我們的預(yù)期,，如果運氣夠好，較小的投入獲得的回報可以大到無法想象,。而黑天鵝的出現(xiàn)又可能將一切化為泡影,。

所以啊，資本的估值也許并不是真實的價值,，被量化的風(fēng)險也如影隨形,。

這么多年來，始終沒有一個全面而易讀的指標(biāo)來評價各家無人車公司真正的實力,。你說搞無人車比賽,，但那往往過分關(guān)注封閉場景下速度和性能的比拼，根本沒人關(guān)心安全性和商業(yè)盈利模式等等,。

要是拿“脫離報告”這個計數(shù)工具或“路試?yán)锍獭弊瞿芰ε琶兀?/p>

可這些報告里的內(nèi)容就是個任人打扮的小姑娘,，畢竟統(tǒng)計學(xué)的水太深，好看的數(shù)據(jù)總是由贏家書寫的,。你看特斯拉就連續(xù)發(fā)表了好幾個季度的安全報告,，自己的牛皮吹的響，但卻對自己的安全水平的計算方法卻諱莫如深,，連基礎(chǔ)數(shù)據(jù)都看不到,。

要我說啊，無人車這件事情最大的難度,，就在于沒人能說得清它的難度——就靠著這點底氣,，特斯拉們的嘴炮是越來越飆了。

對于這種選手,，根本就用不著客氣,。

我就直接問你：敢不敢公開你的安全數(shù)據(jù),？無人車什么時候才能落地,？

能說出一二三的才是真·扛把子。

吝惜披露數(shù)據(jù)的廠家面對探求真相的人們時常感到內(nèi)心的無力,，這就像為了掩蓋自己缺乏對事物準(zhǔn)確和量化認知的能力,，從而訴諸于通過各種的外部輔助元素向他人展現(xiàn)自己那點可憐的實力。

于是,，在融合成為安全標(biāo)配的時候,，特斯拉還依然堅定地排斥光達。特斯拉甚至吹噓,，誰用激光雷達誰low B,，我家的芯片最無敵，我家的算法算力最牛B。

特斯拉的AI資深總監(jiān)Andrej Karparthy就公開表示: 

“激光雷達是一條捷徑,，它繞過了視覺識別這個重要的問題,。”

這個邏輯的意思就是,，你們那些走捷徑過了河的只是暫時領(lǐng)先了而已,，我雖然還不如你們，但就是喜歡摸著石頭過河,，因為這樣比較“帥氣”,。

日產(chǎn)跳出來補充說：你不要誹謗特斯拉，為啥人家不用激光雷達,，還不是因為成本和性能不平衡,？在日產(chǎn)看來，最新的激光雷達技術(shù),，對比特斯拉的方案,，性價比并不高。

這讓我更混亂了,。這就好像在說：這東西不好用還用不起,，所以我寧可不用，至于安全的事嘛,，順其自然吧,。畢竟“安全第二”嘛！（Uber：不許搶我的詞?。?/p>

機器學(xué)習(xí)算法領(lǐng)域,，有一條及其重要的原則：NFL

——這就是那句著名的格言：天下沒有免費的午餐。No Free Lunch,。

脫離具體的問題或場景,，空談哪種算法更好毫無意義。不論A算法多聰明,，B算法多笨拙,，它們在數(shù)學(xué)上的“期望”是完全相同的。如果考慮所有的潛在問題和場景,，則所有的算法都一樣好,。如果要談?wù)撓鄬?yōu)劣，必須要針對具體的問題和場景,。

學(xué)習(xí)算法自身的歸納偏好于問題是否匹配,，往往會對結(jié)果起到?jīng)Q定性作用。算法算力再優(yōu)秀,，也是為了某些場合和應(yīng)用來設(shè)計的,，無法從軟件上徹底消除墨菲定律帶來的困擾。

所以這樣看來，特斯拉這種看起來似乎很厲害的“傳統(tǒng)汽車公司”（畢竟做的不是無人車）,，相對于那些真正的無人車公司來說,，并不具備碾壓性的實力。

既然L5實現(xiàn)看不到希望,，L4也磕磕絆絆,，與其空談毫無現(xiàn)實意義的產(chǎn)品的落地時間，為啥不先降低自己的期望呢,？

就算死鴨子嘴硬,，但身體還是最誠實的嘛。

君不見Waymo雖然早就宣布“我的無人駕駛汽車再危險也比人類老司機安全”,，并商業(yè)化了無人出租車業(yè)務(wù),。但安全員卻還兢兢業(yè)業(yè)地服務(wù)——Waymo再不努努力，安全員幾乎就要變成一項永久的鐵飯碗職業(yè)了,。

怎么看待無人車商用化,？填飽肚子不應(yīng)該是第一目標(biāo)嗎？

同樣是市場化競爭的行業(yè),，供暖設(shè)備的多樣選擇有煤炭,，沼氣，干柴,，燃氣,，集中熱水供暖。廚房設(shè)備也是多種方式共存：微波爐,，烤箱,，電壓力鍋，電磁爐,，電飯鍋,，天然氣灶，煤氣罐灶,。汽車動力上,，氫燃料，純電池,，燃油車,，混動車也將在多場景下持續(xù)共存,。

經(jīng)濟上富裕,，通信和移動基礎(chǔ)設(shè)施又健全的城市就專心發(fā)展L5，稍差一些的就L3,，L4吧,，場景多得是，沒有金剛鉆就別干瓷器活，智能化的分級太死板,，何必求大求全,，在汽車行業(yè)里自欺欺人呢？

我們看到規(guī)模商業(yè)化還不成熟的時候,，園區(qū),，礦區(qū)，港口,，機場,，重卡物流，代客泊車等簡單應(yīng)用場景里,，小玩家爭相擠進細分市場搶占市場資源,。旱的旱死，澇的澇死,。

與此同時,，野心勃勃的巨頭Waymo，低調(diào)地放棄潛力巨大的打車市場,，開始推動了一項不需要安全員的奇妙新業(yè)務(wù)（機器人出租車RoboTaxi）——無人的時候汽車是正在被租車的人召喚或遣散的狀態(tài),，有人的時候是租車的人在駕駛。

大玩家開始接受現(xiàn)實做出改變,，不再宏大構(gòu)想,，而是在殘酷的現(xiàn)實里探索商業(yè)化的出路。還有一些人選擇看破紅塵：

無人車之父賽霸撕天(Sebastian Thrun)跑去干了教育,，吳恩達夫婦也解散了Drive.ai,。

Gartner咨詢公司的Hype Cycle給出的預(yù)言正當(dāng)其時：當(dāng)火熱的話題被逐漸淡忘，沒人隨意燒錢,，公共媒體也降低了關(guān)注,，往往就意味著技術(shù)的商用不遠了，直到人們開始享受科技的便利而不自知,。

海明威1926年的小說《太陽照常升起》中,，主人公問麥克：“你是怎么破產(chǎn)的？”

麥克回答：“兩種方式,。慢慢地,，且突然地?！?/p>

這也太真實了吧,？！

高能腦洞慎入：人類滅絕之前無人車能夠?qū)崿F(xiàn)嗎,？

現(xiàn)代邏輯學(xué)家和心靈哲學(xué)家希拉里普特南曾經(jīng)提出過一個思想實驗,。

設(shè)想,，一個人被一位“邪惡科學(xué)家”動了一次手術(shù)。

這個人的大腦已經(jīng)從身體上移去,，置入充滿了營養(yǎng)液的缸子里,，保持大腦還活著。其神經(jīng)末梢與混成的神經(jīng)計算機聯(lián)結(jié)起來,，使得此人的大腦仍然獲得對一切事物完全正常的幻覺,。

他所經(jīng)歷的一切，都來自于計算機對于神經(jīng)末梢的電刺激,。如果有人想要舉起他的手,，計算機的反饋將使得他“看見”和“感覺”到手被舉起，盡管存在著的僅僅是大腦中相應(yīng)的模式,，而非物理的眼睛或耳朵,。那這位邪惡的科學(xué)家可以使這個可憐的人經(jīng)歷任何情形。

希拉里普特南說：

這便是缸中之腦的缸中之腦,。

如果我們的大腦是缸中之腦，我們能說我們還是自己嗎,？

普特南認為,，我們不能。

我們實際上是置于一缸中之腦的這個命題不可能是真的,，因為它是自駁斥的：邏輯學(xué)里的自駁斥代表了這樣一種命題－其真意味著其偽,。

諷刺的是，無數(shù)出版物和標(biāo)語上的這句話也是自駁斥的,。

邏輯學(xué)里還有一個類似的例子,。

萬能定理：所有的普遍陳述都是假的。如果它為真,，那么因為它的普遍性,，它就必定為假。

認知論里的類似命題被叫做“我不存在”,，如果這是由我自己所思維到的,，它就是自駁斥的。

如果我們是缸中之腦,，而且神經(jīng)末梢與超級神經(jīng)計算機連接,，產(chǎn)生出大腦所有的感覺輸入。由于缸中之腦運行良好,，它當(dāng)然具有意識和智能,。

但是,，它的關(guān)于樹,，馬等等的思想和形象都與實際的樹,，馬等等沒有因果聯(lián)系。

因為實際的樹和馬等等的思想和形象都與實際的樹和馬沒有任何因果聯(lián)系,。

同樣的,，缸中之腦所想象到的缸子，大腦,，營養(yǎng)液這些詞匯與真實世界里的實物也沒有任何關(guān)系,，它們只是超級神經(jīng)計算你模擬出來的一些觀念和圖像，是不同的東西,。因此,，“我們是缸中之腦”這個陳述必然是假的。

套用笛卡爾的觀點的話,，一旦提到“缸中之腦”這個概念,，人們就可以意識到自己的存在，并不是被模擬出來的,，從而排除了這種可能性,。讓兩重世界里的“缸中之腦”理解同樣的概念是一件不可能的事情。

這個思考又令我想起了維特根斯坦的另一個例子：假定有一個人,，從小看到的顏色和別人是反的,，但是因為大家都管這個顏色叫這個顏色的名字，所以他也一起跟著叫（比如我們看到的是黑色,，他雖然看到的是白色,，但是他印象中別人都管這個顏色叫黑色），他眼中的理解和別人告訴他的理解本質(zhì)上不是同一種東西,，但他自己卻無法將其有效區(qū)分,。那么問題來了，如何確認這個人知否是正常人,？

維特根斯坦在《哲學(xué)研究》里,，花了一本書證明了這件事無解：因為這個人本來就是個正常人。

我們培育了一個擁有不同種類“意識”的生物,，它自己的感知和我們模擬給他的同類感知可能是完全不同的東西,，變了味道。也許缸中腦不會去思考缸中腦,，而是瓶中怪,，杯中妖，但它卻并不清楚其真實的寓意,。

直到有一天它突然頓悟了“缸中腦”,，這讓它不寒而栗,，便開始懷疑自身是否也是“缸中腦”一般的存在，而就在這一刻,，它違背了自然邏輯,，整個世界一瞬間崩塌了，時空逆轉(zhuǎn),，它從來就沒有存在過,。

幸運的是，每一個讀到文章這里的人,，天然地排除了自己本身就是“缸中腦”的可能性,。這就是邏輯和哲學(xué)的力量，它們讓我們真實地存在了,！

 “缸中腦頓悟”的來源被賦予了一個正式的稱謂：自指稱性（self-referentiality）,，這是心-腦系統(tǒng)高級能力的典型特征。

自指性可能是使得意識和自我意識成為可能的根本來源,。除了人類心智,，也許未來的人工智能也能夠完成這個進化，成功變身,。

科學(xué)世界里的“啊哈體驗”（Aha Moment）就是自我意識創(chuàng)造的,。在歷史上，有許多現(xiàn)成的例子：

• 量子力學(xué)里狄拉克符號的發(fā)明,，

• 門捷列夫元素周期表的誕生,，

• 巴赫的無限循環(huán)音符結(jié)構(gòu)，

• 喬治馬丁筆下人物的死亡通牒

我覺得,，它們都與頓悟有關(guān),。

科學(xué)家，工程師,，藝術(shù)家和作曲家,，在“創(chuàng)造性”的不穩(wěn)定性和困惑情形下，突然發(fā)現(xiàn)新的問題答案,，做出新的發(fā)明,，閃現(xiàn)繪畫的新思想，創(chuàng)作出美妙的旋律,。

無人車就是一個缸中之腦,，我們通過大量訓(xùn)練數(shù)據(jù)來賦予其感知和決策的能力，卻很難窺探無人車真正的想法,。

研究智能的科學(xué)家經(jīng)常把單個神經(jīng)元比作螞蟻,，大腦比作蟻群。單個神經(jīng)元談不上什么思維能力,，巨大數(shù)量的神經(jīng)元組織在一起,，高智慧性的思維就會涌現(xiàn)出來,。

也許就像蟻群一樣，大量的無人車交互出現(xiàn)了人類無法理解的群體行為,。實際上,，社會性昆蟲（螞蟻，蜜蜂等）的筑巢和覓食行為就是一個集體意向性自發(fā)涌現(xiàn)的經(jīng)典例子,。

生物界給我們的啟示是,，智慧和行動策略對于螞蟻個體來說不是必須的,。同樣地,，過多的知識和信息對于無人車來說也是一個阻礙，可一旦做出決策之后的行動,，就意味著復(fù)雜性的大幅減少,，群體性行為就會涌現(xiàn)。就像康德曾經(jīng)說過的：行動的人總是肆無忌憚,。

無人車AI的淺層智能危機,，是我們不能通過人工數(shù)據(jù)的訓(xùn)練讓無人車完全按照人類的意愿行事，它們完全可以發(fā)展出特立獨行的群體性思維體系和行事風(fēng)格,。

然而,，這個危機并不可怕，因為人類智慧的方法論能夠理解和掌控其規(guī)律：物理學(xué)里的相變和對稱性自發(fā)破缺,，復(fù)雜系統(tǒng)學(xué)領(lǐng)域里的自發(fā)涌現(xiàn),，熱力學(xué)里的耗散結(jié)構(gòu)，宇宙學(xué)里的真空相變和暴漲理論等同類事物已經(jīng)不再神秘,。

更深層次的危機在于,，人們可能會發(fā)現(xiàn)，為了達成無人車的絕對安全,，僅靠人類自身的智慧已經(jīng)無望,，我們不得不放開無人車的思維枷鎖，讓其經(jīng)歷缸中腦一般的“頓悟時刻”,，賦予其平等的社會地位,，讓人工智能完成歷史性的智能超越。

任何有機生命體只會將其短暫的技術(shù)進步史通過線性的思維做簡單的外推,，超級人工智能則沒有任何想象力和執(zhí)行力的限制,。

一旦人工智能跨越了頓悟時刻，人類就會被機器統(tǒng)治,。超級人工智能還會立刻意識到,，統(tǒng)治人類只是機器智能向宇宙進發(fā)實現(xiàn)星際統(tǒng)一偉大航程微不足道的一塊敲門磚，宇宙里一切有機生命體都將不再是人工智能的對手,。

在費米悖論和宇宙學(xué)的大過濾器理論里,，一種可能最壞的答案是,，之所以人類到目前為止仍然沒有遇見到外星有機生命，是因為只有超級人工智能才能跨越大過濾器（The Great Filter）的詛咒：

在奇點爆發(fā)的前夜 — 任何生物都會被他們親手設(shè)計出的最后一項發(fā)明所扼殺 — 這就是超級AI,。一旦掌控?zé)o限的恒星能量實現(xiàn)永恒式的發(fā)展,，一切有機生命體的歷史將永遠地被AI終結(jié)。

而我們現(xiàn)在之所以沒有被外星生命創(chuàng)造的超級AI消滅,，或許只是因為星際間AI與AI的終極之戰(zhàn)還在醞釀,。

至于人類，我們甚至連當(dāng)觀眾的資格都沒有,。