|
“本文翻譯自Tim Urban發(fā)表的《The AI Revolution》，從原文發(fā)表至今已有8年,，隨著人工智能近些年的發(fā)展,，特別是2022年AI大模型及AIGC鑄就的長足進(jìn)步,，使得我們重新翻看這篇文章時(shí)，引人深思,，特與大家分享,。譜文時(shí)發(fā)現(xiàn)一個(gè)更有趣的事情，作者與Musk有很深的淵源,，各種蛛絲馬跡顯示,，Musk的OpenAI和Neuralink也正如文中所提的方式探索著。此篇為Part I,，總篇幅3+1約5萬字,，點(diǎn)個(gè)關(guān)注，后續(xù)馬上來”
我們正處于變化的邊緣,，這可以與地球上人類生命的起源相提并論,。-- Vernor Vinge 如果你正站在這個(gè)位置，你會(huì)是什么感受,？  看似你站在了一個(gè)非常瘋狂的時(shí)間點(diǎn) -- 但是,，你要清楚，實(shí)際上你是無法預(yù)知時(shí)間軸上右側(cè)是怎么樣的,，所以,，實(shí)際上你是這樣的：  你的感受或許和平時(shí)沒什么兩樣。 01 / 遙遠(yuǎn)的未來正在來臨想象一下當(dāng)你乘坐時(shí)光機(jī)回到 1750 年,，那個(gè)沒有電,、通信靠吼、交通靠拉的世界,。你從那個(gè)找一個(gè)家伙并把他帶回到 2015 年,，然后帶他四處走走，觀察他對(duì)一切的反應(yīng),。他無法理解他看到一切：閃亮的金屬倉在高速公路上飛馳,；與遠(yuǎn)在大洋彼岸的人交談；觀看1000英里外正在進(jìn)行的體育比賽,；聆聽50年的樂曲,；并使用一個(gè)黑色魔法盒來捕捉現(xiàn)實(shí)生活中的圖像,，或是記錄生活中的瞬間；生成一張上面有一個(gè)個(gè)超自然移動(dòng)的藍(lán)點(diǎn)的地圖,，顯示著他所在的位置,；透過盒子看著某人的臉并與他們聊天，即使他們?cè)谶@個(gè)國家的另一邊,，以及其他這個(gè)世界中不可思議的魔法,。而這一切，僅僅是在你向他展示互聯(lián)網(wǎng),、或者是國際空間站,、大型粒子對(duì)撞機(jī)、核武器或廣義相對(duì)論之類的東西之前的前菜,。 這段經(jīng)歷對(duì)他來說,，興奮、驚訝或震驚應(yīng)該說是不足于表達(dá)的 -- 他有可能直接會(huì)被嚇得GG了,。 但有趣的是,，如果看到我們后如此之嫉妒，并決定以同樣的方式乘坐時(shí)光機(jī)回到相同的距離的年代：1500年,，并帶一個(gè)人回到1750年,，并向他展示一切。1500年的這位兄弟或許也會(huì)些許震驚,，但是,，他不會(huì)被嚇?biāo)馈Ｒ驗(yàn)?，雖然1500年和1750年非常不同,，但它們與1750年到2015年的之相比，區(qū)別小得太多,。1500年的人會(huì)學(xué)到一些令人費(fèi)解的關(guān)于空間和物理的知識(shí),、他會(huì)對(duì)歐洲新帝國主義的狂熱留下深刻印象、他不得不對(duì)他的世界地圖構(gòu)想進(jìn)行一些重大修改,。但看著1750年的日常生活 -- 交通,、通訊等 -- 絕對(duì)不至于會(huì)讓他被嚇GG。 確實(shí)不會(huì),，為了讓這個(gè)1750年的家伙玩得開心,，他必須回到更遠(yuǎn)的地方 -- 或許追溯到公元前12,000年，在第一次農(nóng)業(yè)革命產(chǎn)生第一批城市和文明之前的,。如果帶來一個(gè)來自純粹的狩獵時(shí)代的人 -- 當(dāng)時(shí)人類或多或少只是另一種動(dòng)物形式的存在,，當(dāng)他看到1750年廣闊的人類帝國、高聳的教堂,、海洋渡輪,、居住于室內(nèi),，以及他們堆積如山的收藏、知識(shí)積累和探索發(fā)現(xiàn) -- 那這家伙或許會(huì)被嚇GG,。 然后,，在他被嚇?biāo)篮螅胱鐾瑯拥氖虑?，怎么辦,。如果他從從公元前24,000年帶一個(gè)兄弟回到12,000年，并向他展示一切,，那個(gè)人會(huì)說,，“好吧，就這,？”。對(duì)于公元前12,000年的人來說,，要達(dá)到同樣的效果,，需要從100,000多年前帶一個(gè)人回來，并向他展示生火和語言交流,。 為了讓某人被傳送到未來并把他嚇GG的震驚程度,，他們必須滿足足夠多的時(shí)間跨度,，這個(gè)跨度被稱之為“死亡進(jìn)程數(shù)”或死亡進(jìn)步單位 (DPU),。因此,，在原始社會(huì)時(shí)代，一個(gè)DPU花費(fèi)了100,000多年,，但按照農(nóng)業(yè)革命后的速度,，它只用了大約 12,000年,。工業(yè)革命之后,，世界發(fā)展如此之快,，以至于一個(gè)DPU僅需1750年的人向前走幾百年,。 這種模式 -- 人類進(jìn)步隨著時(shí)間的推移越來越快 -- 就是未來學(xué)家雷·庫茲韋爾（Ray Kurzweil）所說的人類歷史的加速回報(bào)法則（Law of Accelerating Returns）,。發(fā)生這種情況是因?yàn)楦冗M(jìn)的社會(huì)有能力以比欠發(fā)達(dá)的社會(huì)更快的進(jìn)步 -- 因?yàn)樗鼈兏冗M(jìn),。19世紀(jì)的人類比15世紀(jì)的人類知道得更多，技術(shù)也更好,，因此19世紀(jì)的人類比15世紀(jì)取得的進(jìn)步要大得多也就不足為奇了 -- 15世紀(jì)的人類無法與19世紀(jì)的人類相提并論,。 這也適用于較小的時(shí)間跨度。電影《回到未來》上映于1985年,，“過去”發(fā)生在1955年。在電影中，當(dāng)邁克爾·J·福克斯回到1955年時(shí)，電視的新奇,、蘇打水的價(jià)格、刺耳的電吉他、以及俚語的變化讓他措手不及,。那是一個(gè)不同的世界,，是的，但如果這部電影是在今天拍攝的,，“過去”發(fā)生在1985年，那么這部電影或許可以更有趣，也有完全的不同,。這個(gè)角色將出現(xiàn)在個(gè)人電腦,、互聯(lián)網(wǎng)或手機(jī)出現(xiàn)之前的時(shí)代 -- 今天的Marty McFly,，一個(gè)出生于90年代末的少年,，回到1985年將比電影中的Marty McFly在1955年時(shí)更加格格不入,。 這與我們剛才討論的原因相同 -- 加速回報(bào)定律,。1985年至2015年的平均進(jìn)步速度高于1955年至1985年的速度 -- 因?yàn)榍罢呤且粋€(gè)更先進(jìn)的世界 -- 最近30 年發(fā)生的變化比之前30年要多得多。 所以,，世界的變遷速度正在越來越快,，對(duì)吧？這是否也暗示著我們的未來,，巨變也正在臨近,，對(duì)吧？ Kurzweil認(rèn)為,，如果按照2000年的進(jìn)步速度,，整個(gè)20世紀(jì)一百年的進(jìn)步如今只需20年就可以實(shí)現(xiàn) -- 換句話說，到2000年,，平均進(jìn)步速度是20世紀(jì)的五倍,。他認(rèn)為，另一個(gè)等同于20世紀(jì)的進(jìn)步速度發(fā)生在2000年至2014年之間,，而再一個(gè)進(jìn)步僅需七年時(shí)間,，約在2021年（巧嗎？剛過7年）,。幾十年后，他相信，一年發(fā)生可以頂上好幾個(gè)20世紀(jì)的百年進(jìn)步,，甚至不到一個(gè)月就能發(fā)生一次,。總而言之,，由于加速回報(bào)定律,，Kurzweil認(rèn)為21世紀(jì)將取得20世紀(jì)1,000倍的進(jìn)步。 如果Kurzweil和其他相同他觀點(diǎn)的人是正確的,，那么到2030年,，我們就會(huì)像 1750年的人到2015年一樣 -- 即下一個(gè)DPU可能只需要幾十年 -- 而2050年可能與今天的世界完全不同，以至于我們幾乎認(rèn)不出它,。 這不是科幻小說,，許多比你我都聰明、知識(shí)更淵博的科學(xué)家們都堅(jiān)信這一點(diǎn) -- 這是從歷史回顧可以得出的邏輯上的合理預(yù)測(cè),。 那么,，為什么當(dāng)你聽“35年后世界可能會(huì)天翻地覆”之類的話時(shí)，你總是不置可否,、甚至覺得好笑,？對(duì)于這種對(duì)于未來古怪預(yù)測(cè)的質(zhì)疑，有三個(gè)原因： 1) 我們都是以線性思考?xì)v史的,。當(dāng)我們想象未來30年的進(jìn)步時(shí),，我們會(huì)參考過去30年的進(jìn)步，當(dāng)我們思考21世紀(jì)的進(jìn)步時(shí),，我們只是將20世紀(jì)的進(jìn)步放到2000年,。這與上面1750年的人犯了同樣的錯(cuò)誤，他期望從1500年帶來的人并能夠給予足夠的震驚,。當(dāng)我們應(yīng)該以指數(shù)方式思考時(shí),，我們習(xí)慣性的還是以線性思考。聰明人,，他們可能會(huì)以當(dāng)前的發(fā)展速度預(yù)測(cè)未來30年的進(jìn)步,，而不是對(duì)比過去30年為依據(jù)。為了更正確地思考未來,，你需要以更快的發(fā)展速率想象事物時(shí)代的進(jìn)步,。  2）歷史的發(fā)展總是呈波浪型波動(dòng)向前的。首先,，是陡峭的指數(shù)型曲線,，當(dāng)你只截取很小一段，它依然是線性的,。就好比圓周,，如果你切得足夠細(xì)時(shí),，它看起來幾乎像一條直線。其次,，指數(shù)增長也并不完全平穩(wěn)和均勻,。Kurzweil解釋說，進(jìn)步發(fā)生在“S曲線”中：  當(dāng)新范式的出現(xiàn)推動(dòng)人類進(jìn)步時(shí),，S曲線呈現(xiàn)三個(gè)階段： 1,、緩慢增長（指數(shù)級(jí)增長初期） 2、快速增長（指數(shù)級(jí)爆發(fā)階段,，增長的中后期） 3,、隨著特定范式的成熟而趨于平穩(wěn) 如果你只回顧的歷史，你目前所在的S曲線部分可能會(huì)掩蓋你對(duì)事物發(fā)展速度的看法,。1995年到2007年這段時(shí)間見證了互聯(lián)網(wǎng)的爆炸式增長,，微軟、谷歌和 Facebook進(jìn)入公眾視野,、社交網(wǎng)絡(luò)的誕生,、以及智能手機(jī)的問世，但那已是第2階段：S曲線增長突飛猛進(jìn)的那部分,。但2008年至2015年就少了很多突破,，至少在技術(shù)方面是的。今天思考未來的人可能會(huì)回顧過去幾年,，來衡量當(dāng)前的進(jìn)步速度,，但忽略了一個(gè)更大的全景。實(shí)際上,，一個(gè)全新的,、巨大的飛躍可能正在醞釀中。 3）經(jīng)驗(yàn)阻礙我們看待未來,，讓我們成為固執(zhí)的老頭,。我們基于個(gè)人經(jīng)歷來構(gòu)建世界觀，這種增長速度,，即“世界變化的速度”,，已經(jīng)在我們的頭腦中根深蒂固。我們還受到想象力的限制,，想象力會(huì)利用我們的經(jīng)驗(yàn)來預(yù)測(cè)未來 -- 但通常,，我們的認(rèn)知并不能幫我們準(zhǔn)確預(yù)知未來。當(dāng)我們聽到關(guān)于未來的預(yù)測(cè)與我們現(xiàn)有經(jīng)驗(yàn)相矛盾時(shí),，我們的直覺是該預(yù)測(cè)一定是幼稚的,。如果我在這篇文章的后面告訴你，你可能會(huì)活到150歲,，或250歲,，或者根本不會(huì)死,，你的直覺會(huì)是，“這太愚蠢了 -- 我從歷史中知道一件事,，那就是每個(gè)人都會(huì)死,。” 是的,，過去沒有人沒有死。但在飛機(jī)發(fā)明之前也沒有人駕駛過飛機(jī),。 因此,，當(dāng)您閱讀這篇文章時(shí)，第一反應(yīng)是“呵呵”,，但實(shí)際上你可能真的是錯(cuò)了,。如果我們真正以邏輯合理推理的方式去推測(cè)未來，結(jié)論可能是未來幾十年發(fā)生的變化比我們的直覺要多得多,。邏輯還表明,，如果一個(gè)星球上最先進(jìn)的物種繼續(xù)以越來越快的速度向前進(jìn)化，那么在某個(gè)時(shí)候它們將實(shí)現(xiàn)巨大的飛躍,，以至于完全改變它們所知的生活和感知,，他們將成為“人類” -- 有點(diǎn)像不斷向前進(jìn)化的智能，使得它讓人類產(chǎn)生巨變,，以至于完全改變了所有生物的命運(yùn),。如果你花一些時(shí)間洞察當(dāng)今科技的發(fā)展，你就會(huì)發(fā)現(xiàn)或許我們對(duì)于生命的認(rèn)知將要徹底改變,。 02 / 超智能之路什么是AI,？ 如果你像我一樣，曾認(rèn)為人工智能是一個(gè)很愚蠢的科幻概念,，但最近不斷有嚴(yán)肅的人提到它,，你會(huì)感到很困惑。 很多人對(duì)AI一詞困惑的原因有三個(gè)： 1,、AI總是和電影聯(lián)想到一起,。星球大戰(zhàn)、終結(jié)者2001：太空漫游等等,。電影是虛構(gòu)的,，那些電影角色也是虛構(gòu)的，所以我們總是覺得人工智能缺乏真實(shí)感,。 2.人工智能是個(gè)很寬泛的話題,。從手機(jī)上的計(jì)算器到無人駕駛汽車，到未來可能改變世界的重大變革,，人工智能可以用來描述很多東西,，所以人們會(huì)有疑惑,。 3.AI已滲透到我們的日常生活中，只是我們沒意識(shí)到,。John McCarthy,，在1956年最早使用了人工智能（Artificial Intelligence）這個(gè)詞。他總是抱怨“一旦一些東西使用了人工智能,，人們就不再叫它人工智能了,。”因?yàn)檫@樣,，所以人工智能聽起來總讓人覺得是未來的神秘存在,，而不是身邊的現(xiàn)實(shí)。同時(shí),，這種效應(yīng)也讓人們覺得人工智能是一個(gè)從未實(shí)現(xiàn)的概念,，Kurzweil提到經(jīng)常有人說人工智能在80年代就被遺棄了，這種說法就好像“互聯(lián)網(wǎng)在21世紀(jì)初互聯(lián)網(wǎng)泡沫破滅時(shí)已死”一樣可笑,。 所以我們先把事情捋順,。首先，不要再想機(jī)器人了,。機(jī)器人只是AI的容器,，有些是人形的，有些則不是 -- 但AI本身就是機(jī)器人內(nèi)部的計(jì)算機(jī),。人工智能是大腦,，機(jī)器人是它的身體（如果它有身體的話）。例如,，Siri背后的軟件和數(shù)據(jù)是 AI,，我們聽到的女人的聲音是AI的化身，沒有實(shí)體的機(jī)器人,。 其次,，您可能聽說過“奇點(diǎn)（singularity）”或“技術(shù)奇點(diǎn)”一詞。該術(shù)語在數(shù)學(xué)中用于描述正常的規(guī)則不再適用的類似漸近線的情況,。它在物理學(xué)中被用來描述一種現(xiàn)象,，比如一個(gè)無限小、致密的黑洞,，或者我們?cè)诖蟊ㄖ岸急粩D壓到的那個(gè)臨界點(diǎn),，同樣是通常的規(guī)則不再適用的情況。1993年,，弗諾·文格 (Vernor Vinge) 寫了一篇著名的文章,，他將這個(gè)詞用于未來我們的技術(shù)智能超過我們自己的那一刻 -- 對(duì)他來說，在那一刻之后,，我們所有的生活將被永遠(yuǎn)改變,，正常規(guī)則將不再適用,。Ray Kurzweil的定義則是當(dāng)加速回報(bào)法則達(dá)到極端的速度，以至于技術(shù)進(jìn)步以接近無限快速的速度發(fā)展時(shí),，以此之后我們將生活在一個(gè)全新的世界,。我發(fā)現(xiàn)今天許多人工智能研究者已經(jīng)停止使用這個(gè)術(shù)語了，所以我不會(huì)在這里復(fù)述太多（盡管我們始終關(guān)注這個(gè)想法）,。 最后,，由于AI是一個(gè)廣泛的概念，因此會(huì)有許多不同種類或者形式的AI,，但我們基于AI的能力,，把AI歸類為三大口徑： 1) 弱智能-狹義人工智能（ANI）：狹義人工智能是專注于某個(gè)特定領(lǐng)域的人工智能。有的人工智能可以在國際象棋中擊敗世界象棋冠軍,，但這是它唯一能做的事情。要求它找出在硬盤上存儲(chǔ)數(shù)據(jù)的更好方法,，它會(huì)茫然地看著你,。 2) 強(qiáng)智能-通用人工智能 (AGI)：或稱之為人類級(jí)人工智能，通用人工智能指的是全面與人類一樣聰明的計(jì)算機(jī) -- 可以執(zhí)行任何與人類相當(dāng)?shù)娜蝿?wù)的機(jī)器,。構(gòu)造AGI比構(gòu)造ANI難得多,，而且我們還沒有做到。Linda Gottfredson教授將智力描述為“一種非常普遍的心理能力,，在事務(wù)中推理,、計(jì)劃、解決問題,、抽象思考,、理解復(fù)雜思想、快速學(xué)習(xí)和從經(jīng)驗(yàn)中學(xué)習(xí)的能力,?！?AGI將能夠像人類一樣輕松地完成所有這些事情。 3) 超智能-超級(jí)人工智能 (ASI)：牛津大學(xué)哲學(xué)家和領(lǐng)先的人工智能思想家Nick Bostrom將超級(jí)智能定義為“一種幾乎在所有領(lǐng)域都比最優(yōu)秀的人類更聰明的智能,，包括科學(xué)創(chuàng)造力,、一般智慧和社交技能?！背?jí)人工智能的范圍從比人類聰明一點(diǎn)點(diǎn),，比人類聰明數(shù)億萬倍的計(jì)算機(jī)，均屬于其范疇,。ASI是AI話題如此火爆的原因,，也是為什么“永生”和“滅絕”這兩個(gè)詞會(huì)多次出現(xiàn)在這些帖子中的原因。 如果想體驗(yàn)近似AGI,，歡迎訪問：aispacelab.cn 時(shí)至今日,，我們已經(jīng)征服了最低級(jí)別的人工智能ANI,，而且它已無處不在， AI革命是從ANI,，經(jīng)過AGI,，到達(dá)ASI的道路 -- 一條我們可以得到“永生”也可能“滅絕”的道路，無論哪種方式,，它都會(huì)改變一切,。 讓我們仔細(xì)看看該領(lǐng)域的主要思想家認(rèn)為這條路是什么樣的，以及為什么這場(chǎng)革命可能發(fā)生的比您想象的更早： 01. 當(dāng)前的世界：ANI狹義人工智能是在特定事物上等于或超越人類聰明程度或者效率的機(jī)器智能,。幾個(gè)例子：
現(xiàn)在的ANI系統(tǒng)并不是特別嚇人,。最壞的情況,，一個(gè)故障或編程錯(cuò)誤的ANI只可能會(huì)導(dǎo)致相對(duì)孤立的災(zāi)難，例如摧毀電網(wǎng),、導(dǎo)致有害的核電站故障或引發(fā)金融市場(chǎng)災(zāi)難（如2010閃崩事件,，ANI程序一些出乎意料的反應(yīng)和錯(cuò)誤導(dǎo)致金融市場(chǎng)崩盤，股市短暫暴跌,，市值蒸發(fā)了1萬億美元,，其中只有一部分在錯(cuò)誤糾正后恢復(fù)）。 但是,，雖然ANI不會(huì)造成生存威脅,，但是我們應(yīng)該警惕這個(gè)相對(duì)無害的ANI，在日積月累后組成的，日益龐大和復(fù)雜的生態(tài)系統(tǒng)?，F(xiàn)在的每一項(xiàng)ANI的創(chuàng)新都在 為AGI和ASI的的發(fā)展添磚加瓦,。正如Aaron Saenz所見，我們世界的ANI系統(tǒng)“早期原始地球軟泥中的氨基酸” -- 在某個(gè)意想不到的日子蘇醒過來的無生命物質(zhì),。 02. 從弱人工智能（ANI）到強(qiáng)人工智能（AGI）為何如此困難,？ 復(fù)刻一個(gè)與人類一樣聰明的計(jì)算機(jī)，是多么令人難以置信以及讓人拍案叫絕的挑戰(zhàn),。這是建造摩天大樓,、將人類送入太空或者弄清楚大爆炸細(xì)節(jié)，所有這些事無法比擬的,，他們都比理解我們的大腦是如何運(yùn)作的,，并制造一個(gè)一樣酷的東西要容易得多。時(shí)至今日,，人腦依然是宇宙中已知的最復(fù)雜的東西,。 有趣的是，嘗試構(gòu)建AGI（與人類一樣聰明的計(jì)算機(jī),，而不是只在一個(gè)狹隘專業(yè)領(lǐng)域的人工智能）的困難,，并非是你想的那樣。 一臺(tái)可以計(jì)算十位數(shù)乘法的計(jì)算機(jī) -- 非常簡(jiǎn)單,。一個(gè)可以可以分辨它是狗貓的機(jī)器 -- 非常困難,。可以在國際象棋中擊敗人類的人工智能,？早就做到了,。可以閱讀六歲兒童繪本中的一段話,，并能理解其含義,？谷歌正花費(fèi)數(shù)十億美元嘗試做到這一點(diǎn)。 我們認(rèn)為困難的事情 -- 比如微積分,、金融市場(chǎng)策略和語言翻譯 -- 這對(duì)計(jì)算機(jī)來說極其的簡(jiǎn)單,，而我們認(rèn)為的一些簡(jiǎn)單的事情 -- 比如視覺、動(dòng)態(tài),、運(yùn)動(dòng)和直覺 -- 對(duì)它來說卻極其其困難,。或者,，正如計(jì)算機(jī)科學(xué)家唐納德·高德納 (Donald Knuth) 所說,，“人工智能現(xiàn)在基本已經(jīng)能做好所有需要'思考’的事情，但卻做不了大多數(shù)人和動(dòng)物都'無需思考’就能做的事情,。” 你應(yīng)該很快就能意識(shí)到,，那些對(duì)我們來說似乎很簡(jiǎn)單的事情，實(shí)際上極其復(fù)雜，它們之所以看起來簡(jiǎn)單,，是因?yàn)檫@些技能已經(jīng)在我們（和大多數(shù)動(dòng)物）身上經(jīng)過數(shù)億年的進(jìn)化和優(yōu)化了,。當(dāng)你把手伸向一個(gè)物體時(shí)，你肩膀,、肘部和手腕的肌肉,、肌腱和骨骼會(huì)立即與你的眼睛一起構(gòu)成一個(gè)三維系統(tǒng)，執(zhí)行一系列物理動(dòng)作,，讓你的手向目標(biāo)物體直線移動(dòng),。這對(duì)你來說輕而易舉，因?yàn)槟愕拇竽X中軟件已經(jīng)“非常完美”了,。同樣,，也就是為什么當(dāng)你網(wǎng)站上注冊(cè)新賬戶時(shí)，惡意軟件搞不定驗(yàn)證碼,，而你卻能夠輕而易舉完成,。 另一方面，大數(shù)相乘或者下象棋,，這些都是生物的新活動(dòng),，我們還沒有足夠的時(shí)間來進(jìn)化以熟練掌握，所以計(jì)算機(jī)可以輕而易舉的打敗我們,。試想一下,，哪個(gè)更容易做到，構(gòu)建一個(gè)計(jì)算大數(shù)相乘的程序,，或者一個(gè)可以識(shí)別成千上萬種不同字體或手寫體字母的程序,？ 一個(gè)有趣的例子 -- 當(dāng)看這個(gè)時(shí)，你和計(jì)算機(jī)都可以很快地看出它是一個(gè)具有兩種不同陰影的矩形交替出現(xiàn)的圖形：  但如果用這個(gè)團(tuán)案的話：  你可以很快地描述出圖形的圓柱形,、3D,、矩形,、不同陰影灰度等,，但計(jì)算器就完全無法描述出來。計(jì)算機(jī)能夠描述各種深度不同的二維平面形狀,，但是人腦卻能把所有的形狀,、陰影、細(xì)節(jié),、組合全部解讀出來,。再比如下面的圖片，電腦看到的是黑,、白,、灰，而你能很快分辨出來這是一個(gè)石頭。  而且,，我們到現(xiàn)在談的還是一些靜態(tài)不變的信息,。要想達(dá)到人類級(jí)別的智能，計(jì)算機(jī)必須要理解更高深的東西,，比如臉部微表情,，開心、放松,、滿足,、滿意、高興這些類似情緒之間的區(qū)別,，以及為什么《勇敢的心》是好電影,，而《愛國者》是爛電影。 很難是吧,？如何才能達(dá)到呢,？ 構(gòu)建AGI的第一關(guān)鍵：足夠的算力 要使 AGI 成為可能，第一件事是計(jì)算能力的增強(qiáng),。如果人工智能系統(tǒng)要像大腦一樣聰明,，它至少需要與大腦的相同的計(jì)算能力。 表達(dá)這種能力的一種方法是大腦每秒可以處理的總計(jì)算量 (calculations per second, cps),，你可以通過計(jì)算出大腦中每個(gè)結(jié)構(gòu)的最大cps然后將它們加在一起來得出這個(gè)數(shù)字,。 Ray Kurzweil想出了一個(gè)捷徑：稱重，他采用某人對(duì)一個(gè)結(jié)構(gòu)的cps的專業(yè)估計(jì),，并將該結(jié)構(gòu)的重量與整個(gè)大腦的重量進(jìn)行計(jì)算,，按比例相乘以獲得總cps的估計(jì)。聽起來不靠譜,，但他用大腦不同局部的值進(jìn)行多次估計(jì),，總和都類似：大約10的16次方，或1億億cps,。 目前,，世界上最快的超級(jí)計(jì)算機(jī)，中國的天河二號(hào),，實(shí)際上已經(jīng)超過了這個(gè)數(shù)字,，達(dá)到約3.4億億cps。但天河二號(hào)和一個(gè)人的大腦比起來也只是個(gè)小弟,，占地720平方米,，用電24兆瓦（大腦運(yùn)行僅需20瓦），造價(jià)3.9億美元,。甚至較為通用的商業(yè)或工業(yè)用途場(chǎng)景都還不適用,。 Kurzweil認(rèn)為考慮電腦的發(fā)展程度的標(biāo)桿是看1000美元能買到多少cps，當(dāng)1000美元能買到人腦級(jí)別的1億億運(yùn)算能力的時(shí)候,，強(qiáng)人工智能可能就是生活的一部分了,。 摩爾定律認(rèn)為全世界的電腦運(yùn)算能力每?jī)赡昃头槐叮@一定律有歷史數(shù)據(jù)所支持,，這同樣表明電腦硬件的發(fā)展和人類發(fā)展一樣是指數(shù)級(jí)別的,。我們用這個(gè)定律來衡量1000美元什么時(shí)候能買到1億億cps。現(xiàn)在1000美元能買到10萬億cps,，和摩爾定律的歷史預(yù)測(cè)相符合,。  $1000能買到的cps，及約等于大腦容量對(duì)比 因此,，目前1,000美元的計(jì)算機(jī)現(xiàn)在已能擊敗老鼠的大腦,，它們的水平約為人類的千分之一。這聽起來并不多,，但是,，在1985年其大約是人類水平的萬億分之一，1995年是人類水平的十億分之一,，2005年是人類水平的百萬分之一,。2015 年是千分之一，到2025年,，與一個(gè)人類大腦相媲美的計(jì)算機(jī)將是人人都負(fù)擔(dān)的起了（還有2年,，拭目以待）,。 因此,，在硬件方面,，AGI所需的算力現(xiàn)在在中國技術(shù)上已是可用了的,，且10年內(nèi)將普及AGI級(jí)的硬件,。但是,，僅靠算力并不能使計(jì)算機(jī)具備通用智能 -- 下一個(gè)問題是,，我們?nèi)绾螌⑷祟愃降闹悄苜x予此,？ 構(gòu)建AGI的第二關(guān)鍵：讓其足夠聰明 這很棘手。事實(shí)是,，沒人知道如何讓計(jì)算機(jī)變得像人一樣聰明,，能夠知道什么是狗,、寫得怪異的B和分辨爛片。但是有很多嘗試在某個(gè)時(shí)候或許會(huì)奏效,。以下是我遇到的三種最常見的策略： 1）剽竊大腦 這就像科學(xué)家們苦思冥想，為什么坐在他們旁邊的那個(gè)孩子很聰明,，考試總是那么好,，即使他們一直在努力學(xué)習(xí)，也做不到那個(gè)孩子那么好,，然后,，他們最終決定“去他媽的，我只是要復(fù)制那個(gè)孩子的答案,?！?這是有道理的 -- 我們?cè)趪L試建造一臺(tái)超級(jí)復(fù)雜的計(jì)算機(jī)時(shí)遇到了困難，而我們每個(gè)人的腦海中恰好都有一個(gè)完美的原型,。 科學(xué)界正在努力對(duì)大腦進(jìn)行逆向工程,，以弄清楚進(jìn)化是如何產(chǎn)生如此出色的東西的 -- 樂觀估計(jì)我們可以在2030年之前做到這一點(diǎn)。一旦我們做到了這一點(diǎn),，我們就會(huì)知道大腦如何強(qiáng)大而高效運(yùn)行的所有秘密,，我們可以從中汲取靈感并竊取其創(chuàng)新。模仿大腦的計(jì)算機(jī)體系結(jié)構(gòu)的一個(gè)例子是人工神經(jīng)網(wǎng)絡(luò),。它最初是一個(gè)晶體管“神經(jīng)元”網(wǎng)絡(luò),，通過輸入和輸出相互連接，它什么都不知道 -- 就像嬰兒的大腦一樣,。它“學(xué)習(xí)”的方式是嘗試完成一項(xiàng)任務(wù),，比如手寫識(shí)別，起初,，它的神經(jīng)元放電和隨后對(duì)每個(gè)字母的猜測(cè)將是完全隨機(jī)的,。但是，當(dāng)它被告知它做對(duì)了某事時(shí),，恰好產(chǎn)生該答案的發(fā)射路徑中的晶體管連接得到加強(qiáng),；當(dāng)它被告知錯(cuò)誤時(shí)，這些通路的聯(lián)系就會(huì)被削弱,。經(jīng)過大量的試驗(yàn)和反饋,，網(wǎng)絡(luò)本身已經(jīng)形成了智能神經(jīng)通路，并且機(jī)器已經(jīng)針對(duì)任務(wù)進(jìn)行了優(yōu)化,。大腦有點(diǎn)像這樣學(xué)習(xí),，但以更復(fù)雜的方式學(xué)習(xí)，隨著我們繼續(xù)研究大腦,，我們正在發(fā)現(xiàn)巧妙的新方法來利用神經(jīng)回路,。 更極端的剽竊涉及一種稱為“全腦仿真”的策略,，其目標(biāo)是將真實(shí)的大腦切成薄層，掃描每一層,，使用軟件組裝一個(gè)精確的重建3D模型,，然后在功能強(qiáng)大的計(jì)算機(jī)上實(shí)現(xiàn)該電腦模型。屆時(shí)我們將擁有一臺(tái)正式具備大腦所有能力的計(jì)算機(jī) -- 它只需要學(xué)習(xí)和收集信息,。如果工程師做得非常好,，他們將能夠以如此精確的精度模擬真實(shí)的大腦，一旦將大腦結(jié)構(gòu)上傳到計(jì)算機(jī),，大腦的完整個(gè)性和記憶就會(huì)完好無損,。如果計(jì)算機(jī)大腦是在Jim去世前建立的，那么計(jì)算機(jī)現(xiàn)在將以Jim的身份醒來,，這將是一個(gè)強(qiáng)大的人類級(jí)AGI,，然后我們可以努力將Jim變成一個(gè)難以想象的超智能ASI。 我們離實(shí)現(xiàn)全腦仿真還有多遠(yuǎn)呢,？到目前為止,，我們還未能模擬一個(gè)1毫米長的扁蟲大腦，它總共只有302個(gè)神經(jīng)元,，而人腦包含1000億個(gè),。如果這個(gè)數(shù)字使項(xiàng)目看起來無望，請(qǐng)記住指數(shù)級(jí)的進(jìn)步 -- 既然我們已經(jīng)征服了微小的蠕蟲大腦,，不久之后可能會(huì)出現(xiàn)一只螞蟻,，然后是一只老鼠，突然間這似乎更合理了（漂亮國已經(jīng)取得進(jìn)步了）,。 2）模擬進(jìn)化 模仿聰明孩子考試太難,，那我們可以嘗試復(fù)制他為學(xué)習(xí)方式。 這正是我們所知的,，我們自己大腦的進(jìn)化就是證明,，因此建造一臺(tái)像大腦一樣強(qiáng)大的計(jì)算機(jī)也是可能的。如果大腦過于復(fù)雜無法模仿,，那我們可以嘗試模仿進(jìn)化,。就像我們?cè)噲D通過模仿鳥的拍打動(dòng)作來制造飛機(jī)一樣 -- 最好是使用全新的、面向機(jī)器的方法來設(shè)計(jì)機(jī)器,，而不照搬生物學(xué),。 所以我們?nèi)绾瓮ㄟ^模擬進(jìn)化的來造強(qiáng)人工智能呢？這種方法叫做“基因算法”,，它大概是：建立一個(gè)反復(fù)運(yùn)作的表現(xiàn)/評(píng)價(jià)過程,，就好像生物通過生存這種方式來表現(xiàn)，并且以能否生養(yǎng)后代為評(píng)價(jià)一樣,。一組電腦將執(zhí)行各種任務(wù),，最成功的將會(huì)“繁殖”，把各自的程序融合,，產(chǎn)生新的計(jì)算機(jī)（算法）,，而不成功的將會(huì)被剔除。經(jīng)過多次的反復(fù)后,。這個(gè)自然選擇的過程將產(chǎn)生越來越強(qiáng)大的計(jì)算機(jī)（算法）,。而這個(gè)方法的難點(diǎn)是建立一個(gè)自動(dòng)化的評(píng)價(jià)和繁殖過程，使得整個(gè)流程能夠自己運(yùn)行,。 這個(gè)方法的缺點(diǎn)是,，進(jìn)化往往需要十億年才能完成，而我們希望在幾十年內(nèi)完成,。 但是比起自然演化來說,，我們有很多優(yōu)勢(shì)。 首先,，自然演化是沒有預(yù)知能力的,，它是隨機(jī)的 -- 它產(chǎn)生的沒用的變異比有用的變異多很多，但是人工模擬的演化可以控制過程,，使其著重于有益的變化,。其次，自然演化是沒有目標(biāo)的,，自然演化出的智能也不是它目標(biāo),，特定環(huán)境甚至對(duì)于更高的智能是不利的（因?yàn)楦叩戎悄芟暮芏嗄茉矗５俏覀兛梢钥刂蒲莼倪^程向更高智能的方向發(fā)展,。再次,，要產(chǎn)生智能，自然演化要先產(chǎn)生其它的附件,，比如改良細(xì)胞產(chǎn)生能量的方法,，但是我們完全可以用電力來代替這額外的負(fù)擔(dān)。所以,，人類主導(dǎo)的演化會(huì)比自然快很多很多,，但是我們依然不清楚這些優(yōu)勢(shì)是否能使模擬演化成為可行的策略。 2）轉(zhuǎn)化為計(jì)算機(jī)問題 這是科學(xué)家們感到絕望并試圖對(duì)測(cè)試進(jìn)行編程和自我測(cè)試的嘗試,。但它可能是最有前途的方法,。 想法是，我們要建造一臺(tái)自編碼的計(jì)算機(jī),，它的兩項(xiàng)主要技能是對(duì)人工智能進(jìn)行研究和對(duì)自身的變化進(jìn)行不停的編碼 -- 讓它不僅可以學(xué)習(xí),，還可以改進(jìn)自己的架構(gòu)。我們會(huì)教計(jì)算機(jī)成為計(jì)算機(jī)科學(xué)家,，這樣他們就可以引導(dǎo)自己的發(fā)展,。這將是他們的主要工作 -- 弄清楚如何讓自己變得更聰明,。稍后會(huì)詳細(xì)介紹。（像不像OpenAI,？） 所有這一切很快可能發(fā)生 硬件的快速進(jìn)步和軟件的創(chuàng)新探索在同時(shí)發(fā)生,，AGI可能會(huì)迅速而意外地出現(xiàn)在我們身上，主要原因有兩個(gè)： 1) 指數(shù)增長非常劇烈,，蝸牛般的前進(jìn)速度可以快速上升 -- 這張GIF很好地說明了這個(gè)概念：  2）當(dāng)涉及到軟件時(shí),，進(jìn)步似乎很緩慢，但是頓悟可以立即改變進(jìn)步的速度（有點(diǎn)像科學(xué),，在人類認(rèn)為宇宙以地心為中心的時(shí)候,，很難計(jì)算出宇宙是如何運(yùn)行的 , 但隨后發(fā)現(xiàn)它是日心時(shí)，突然一切變得容易得多了）,?；蛘撸?dāng)涉及到諸如自我改進(jìn)的計(jì)算機(jī)之類的東西時(shí),，我們可能看起來很遙遠(yuǎn),，但實(shí)際上只需對(duì)系統(tǒng)進(jìn)行一次調(diào)整，就可以使它的效率提高1,000倍,，并提升到人類智能水平,。 03. 從強(qiáng)人工智能（AGI）到超人工智能（ASI）總有一天，我們將實(shí)現(xiàn)AGI -- 具有人類一般智能的計(jì)算機(jī),，和人類平等地生活在一起,。 完全不會(huì)！實(shí)際上,，具備算力以及與人類相同智能水平的AGI會(huì)顯著比人類有優(yōu)勢(shì),。比如： 在硬件上： -速度。腦神經(jīng)元的運(yùn)算速度最多是200Hz,，今天的微處理器就能以2GHz,，也就是神經(jīng)元1000萬倍的速度運(yùn)行，而這比我們達(dá)成強(qiáng)人工智能需要的硬件還差遠(yuǎn)了,。大腦的內(nèi)部信息傳播速度是120m/s,，計(jì)算機(jī)的信息傳播速度是光速，差了好幾個(gè)數(shù)量級(jí),。 -容量和儲(chǔ)存空間,。人腦先天就那么大，后天無法把它變得更大,，就算真的可以,，每秒120m/s的傳播速度也會(huì)成為巨大的瓶頸。計(jì)算機(jī)的物理大小可以非常隨意，使得計(jì)算機(jī)能運(yùn)用更多的硬件,，更大的內(nèi)存,，長期有效的存儲(chǔ)介質(zhì)，不但容量大而且比人腦更準(zhǔn)確,。 -可靠性和持久性,。計(jì)算機(jī)的存儲(chǔ)不但更加準(zhǔn)確，而且晶體管比神經(jīng)元更加精確,，也更不容易損壞（真的壞了也很好修）,。人腦還很容易疲勞,，但是計(jì)算機(jī)可以7x24小時(shí)不停地以峰值速度運(yùn)作,。 在軟件上： -可編輯性，可升級(jí)性,，以及更廣泛的可能性,。和人腦不同，計(jì)算機(jī)軟件可以進(jìn)行更多的升級(jí)和修正,，并且很容易做測(cè)試,。計(jì)算機(jī)的升級(jí)可以加強(qiáng)人腦比較弱勢(shì)的領(lǐng)域 -- 人腦的視覺單元很發(fā)達(dá)，但是復(fù)雜工程能力就挺弱的,。而計(jì)算機(jī)則不但能在視覺元件上匹敵人類,，在處理復(fù)雜工程上也一樣可以加強(qiáng)和優(yōu)化。 -集體能力,。人類建立了龐大的集體智慧,，以壓倒性統(tǒng)治其他物種。從早期的語言和大型社區(qū)的形成,，到文字和印刷的發(fā)明,，再到互聯(lián)網(wǎng)的普及。人類的集體智慧是我們統(tǒng)治其它物種的重要原因之一,。而計(jì)算機(jī)在這方面比我們要強(qiáng)的很多,，一個(gè)運(yùn)行特定程序的人工智能網(wǎng)絡(luò)能夠經(jīng)常在全球范圍內(nèi)自我同步，這樣一臺(tái)計(jì)算機(jī)學(xué)到的東西會(huì)立刻被其它所有計(jì)算機(jī)學(xué)得,。而且計(jì)算機(jī)集群可以共同執(zhí)行同一個(gè)任務(wù),，分歧、自私自利等這些人類特有的東西未必會(huì)出現(xiàn)在計(jì)算機(jī)身上,。 人工智能很可能通過可自我改進(jìn)的程序達(dá)到通用人工智能,，且它不會(huì)將“人類智能”視為重要的里程碑 -- 從我們的角度來看，它只是一個(gè)相對(duì)標(biāo)志 -- 而且沒有任何理由到達(dá)我們的水平后就“停止”,?？紤]到即使是與人類智力相當(dāng)?shù)腁GI也比人類更具有優(yōu)勢(shì)，很明顯，它只會(huì)在短暫的一瞬間打擊人類智力,，然后進(jìn)入超越人類智力的領(lǐng)域,。 當(dāng)它發(fā)生時(shí)，可能會(huì)讓我們大吃一驚,。原因是,，從我們的角度來看，A) 雖然不同種類動(dòng)物的智力各不相同,，但從物種主宰的我們來看,，任何動(dòng)物的智力都遠(yuǎn)低于我們，并且B)我們認(rèn)為最聰明的人和最愚蠢的人相去甚遠(yuǎn),。有點(diǎn)像這樣：  因此,，隨著人工智能向人類水平靠近，我們會(huì)認(rèn)為它只是變得相對(duì)動(dòng)物來說更聰明了,。然后,，當(dāng)它觸及人類的最低能力時(shí)，我們會(huì)說,，“哇哦,，它就像一個(gè)笨笨的人。 好可愛,！” 但問題是,，從智能的大局來看，人和人的智能的差別,，比如從最愚笨的人類到愛因斯坦的差距,，其實(shí)是不大的。所以當(dāng)人工智能達(dá)到了腦殘級(jí)別的智能后,，它會(huì)很快變得比愛因斯坦更加聰明：  之后會(huì)怎樣,？ 我希望你享受現(xiàn)在的閱讀時(shí)光，因?yàn)榻酉聛磉@個(gè)話題將變得不正常和可怕,，而且會(huì)保持這種狀態(tài),。我想在這里停下來提醒您，我要說的每一件事都是真實(shí)的 -- 真實(shí)的科學(xué)和來自眾多最受尊敬的思想家和科學(xué)家對(duì)未來的真實(shí)預(yù)測(cè),。切記,！ 正如我上面所說，我們目前大多數(shù)實(shí)現(xiàn)AGI的模型,，都涉及AI自我改進(jìn),。一旦到達(dá)AGI，即便不是通過自我改進(jìn)的方法形成的,，也足夠聰明到可以根據(jù)需要開始自我改進(jìn),。 這正是我們要引出一個(gè)重磅概念的地方：遞歸式自我改進(jìn),。 它是這樣工作的：某個(gè)級(jí)別的人工智能系統(tǒng) -- 比方說村里的大傻 -- 是一個(gè)為實(shí)現(xiàn)可自我改進(jìn)而編織的程序,。一旦它做到了,，它就變得更聰明了 -- 也許在某個(gè)時(shí)間點(diǎn)它達(dá)到了愛因斯坦的水平 -- 所以當(dāng)它努力提高智力,，有了愛因斯坦的水平時(shí)，它就更容易實(shí)現(xiàn)更大的提升,。這些提升使其它將比任何人類都聰明得多，從而使其能夠?qū)崿F(xiàn)更大的飛躍,。就如同飛輪效應(yīng)一般,，提升越來越大,，且越來越快,，AGI在智能上飆升很快就達(dá)到了ASI系統(tǒng)的超級(jí)智能水平,。這就稱為智能大爆炸！ 關(guān)于人工智能還需多長時(shí)間達(dá)到人類水平的通用智能，還存在著一些爭(zhēng)論,。一項(xiàng)對(duì)數(shù)百名科學(xué)家的調(diào)查顯示,，我們可能能夠達(dá)到AGI的年份的中位數(shù)是2040年，也就是距離現(xiàn)在只有25年了（又1/3過去了,，進(jìn)步我們看到了）,，這聽起來沒什么，但是要記住,，很多這個(gè)領(lǐng)域的思想家認(rèn)為從AGI強(qiáng)人工智能到ASI超人工智能的會(huì)快得多,。就像下面這很可能會(huì)發(fā)生： 第一個(gè)人工智能系統(tǒng)需要幾十年才能達(dá)到低級(jí)通用智能,，但它終于發(fā)生了,。一臺(tái)計(jì)算機(jī)能夠理解它周圍的世界,，就像一個(gè)四歲的人類一樣。突然間,，在達(dá)到那個(gè)里程碑的一個(gè)小時(shí)內(nèi)，系統(tǒng)推出了統(tǒng)一廣義相對(duì)論和量子力學(xué)的宏大物理學(xué)理論,，這是人類無法確定的事情,。90分鐘后，AI變成了ASI,，比人類聰明170,000倍,。 如此強(qiáng)的超級(jí)智能是我們所無法理解的,，就像一只黃蜂無法理解凱恩斯經(jīng)濟(jì)學(xué)一樣。在我們的世界里,，聰明意味著130智商,，愚蠢意味著85智商 -- 我們沒有一個(gè)詞能來形容12,952的智商,。 我們所知道的是,，人類在地球上的絕對(duì)統(tǒng)治背后有一個(gè)顯而易見的規(guī)則：智慧帶來力量,。這意味著當(dāng)我們創(chuàng)造出ASI時(shí),，它將成為地球生命史上最強(qiáng)大的存在,，包括人類在內(nèi)的所有生物都將屈居其下 -- 這可能會(huì)在未來幾十年內(nèi)便發(fā)生,。 如果我們的大腦能夠發(fā)明WiFi，那么,，比我們聰明100倍,、1000倍甚至是10億倍的東西,，應(yīng)該可以輕易的隨意掌控世界上每個(gè)原子的位置，我們想象的一切魔法,、如同至高無上的上帝般擁有的每一種力量,，對(duì)ASI來說或許就像開關(guān)燈一般簡(jiǎn)單。創(chuàng)造永葆青春之術(shù),、治愈疾病,、解決饑荒、操縱天氣以保護(hù)地球上生命的未來,、甚至是讓人類獲得永生,，這一切突然都成為可能。也有可能是地球上所有生命的立即終結(jié),。就我們而言,，如果ASI出現(xiàn)，地球上就會(huì)有一個(gè)全能的上帝 -- 對(duì)我們來說最重要的問題是： 文中提及的參考文獻(xiàn)：
求關(guān)注,，后續(xù)馬上來,，END 登錄dreamcast.aispacelab.cn，開啟AI奇幻旅程,！ |
|
|
