全文翻譯自《Medium》"How Elon Musk and Y Combinator Plan to Stop Computers From Taking Over"一文。
人工智能（AI）領(lǐng)域烽煙四起,，像谷歌,、蘋(píng)果、Facebook,、微軟這樣的科技巨頭,，乃至豐田等汽車(chē)廠商都在爭(zhēng)先恐后地招募研究人員。但仿佛還嫌它競(jìng)爭(zhēng)不夠激烈似的,，現(xiàn)在又有一家新企業(yè)加入其中,。但它就有點(diǎn)特立獨(dú)行了——這家新近揭曉的非營(yíng)利性企業(yè)名為OpenAI，發(fā)誓要公開(kāi)所有的研究結(jié)果,，而且不收專利使用費(fèi),，目的就是確保將來(lái)計(jì)算機(jī)智能超越人類智能的時(shí)候，世界不至于淪為人們想象中那個(gè)可怕的反烏托邦,。它的資金來(lái)自一批科技界的領(lǐng)軍人物,，包括伊隆·馬斯克、雷德·霍夫曼,、彼得·泰爾,、杰西卡·利文斯頓，以及亞馬遜云服務(wù)部門(mén)Amazon Web Services,。他們承諾在長(zhǎng)期內(nèi)共同出資10億多美元,。馬斯克和創(chuàng)業(yè)孵化器Y Combinator的CEO山姆·阿爾特曼出任聯(lián)席主席。Y Combinator的研究小組以及阿爾特曼本人也都參與了出資,。馬斯克的參與一點(diǎn)也不奇怪,，他常常就人工智能話題發(fā)表評(píng)論。但Y Combinator是怎么回事,？沒(méi)錯(cuò),，它就是那家孵化器,，十年前以一個(gè)夏季項(xiàng)目起家，當(dāng)時(shí)資助了六家初創(chuàng)企業(yè),，給創(chuàng)始人發(fā)放“只夠吃方便面”的微薄工資,，并提供寶貴的指點(diǎn)，幫助它們迅速壯大起來(lái),。到如今,，YC已經(jīng)啟動(dòng)了近1,000家公司，其中包括Dropbox,、Airbnb和支付服務(wù)Stripe,，不久前還設(shè)立了研究部。近兩年領(lǐng)導(dǎo)YC的是阿爾特曼,，他的公司Loopt是YC最早一屆,、也就是2005屆的成員之一，后來(lái)在2012年賣(mài)了4,340萬(wàn)美元,。雖然YC和阿爾特曼都參與了出資,，阿爾特曼還出任聯(lián)席主席，但OpenAI仍然是一家獨(dú)立自主的企業(yè),。說(shuō)白了,，OpenAI就是個(gè)研究實(shí)驗(yàn)室，如果有大公司憑著自己的超智能系統(tǒng)一心謀利,，變得一手遮天,，或者政府用人工智能來(lái)掌控更大的權(quán)力，甚至壓迫民眾,，OpenAI就會(huì)跟它們對(duì)著干。聽(tīng)上去有種唐吉可德式的不切實(shí)際感,，但這個(gè)團(tuán)隊(duì)已經(jīng)雇傭到了一批頂尖人才,，其中有前Stripe首席技術(shù)官（CTO）格雷格·布羅克曼（也將擔(dān)任OpenAI的CTO），還有世界領(lǐng)先的研究員伊利亞·蘇茨克維,，他曾任職于谷歌,，還曾在多倫多師從于神經(jīng)網(wǎng)絡(luò)先驅(qū)杰夫·辛頓，是辛頓手下一批著名年輕科學(xué)家中的一員,，這次將擔(dān)任OpenAI的研究主管,。另外還有一些頂尖的年輕人才，他們的履歷包括主要的學(xué)術(shù)團(tuán)體,、Facebook人工智能研究部門(mén),，以及DeepMind——谷歌在2014年收購(gòu)的一家人工智能公司。它還有一個(gè)星光熠熠的顧問(wèn)團(tuán)隊(duì),，其中的艾倫·凱是計(jì)算機(jī)科學(xué)領(lǐng)域的一位先驅(qū)人物,。以下是馬斯克與阿爾特曼訪談內(nèi)容節(jié)選：山姆·阿爾特曼：YC的研究部是大約一年半前啟動(dòng)的，但我很早就開(kāi)始考慮AI問(wèn)題,，伊隆也是,。對(duì)于這個(gè)世界的未來(lái)，最重要的是什么,？如果要列一份清單,，我覺(jué)得“正義AI”的排名會(huì)很靠前。所以我們才要?jiǎng)?chuàng)辦OpenAI,，它的目的是開(kāi)發(fā)造福人類的AI,。而且，正因?yàn)樗且患曳菭I(yíng)利機(jī)構(gòu),，它將由全世界免費(fèi)擁有,。 伊隆·馬斯克：大家都知道，我對(duì)人工智能有所顧慮已經(jīng)不是一天兩天了,。我跟山姆,，還有跟里德·霍夫曼、彼得·泰爾他們探討過(guò)很多回了,。我們就想,，“有什么辦法可以保證人工智能朝著造福人類的方向發(fā)展，或者說(shuō),，提高它朝這個(gè)方向發(fā)展的可能性,？”探討了很多次以后，我們最終下結(jié)論說(shuō),，也許可以設(shè)立一家符合501(c)3稅收條款的非營(yíng)利機(jī)構(gòu),，它沒(méi)有義務(wù)去最大限度地提高盈利能力。而且,，安全會(huì)是我們的工作重點(diǎn),。還有一個(gè)根本理念層面的重要立場(chǎng)：我們是希望人工智能得到普及的。人們?cè)谶@個(gè)問(wèn)題上分成兩派——人工智能的數(shù)量是多一點(diǎn)好,，還是少一點(diǎn)好,？我們覺(jué)得，可能多一點(diǎn)要好,。只要是作為人類意志的一種延伸,，那就是好的。馬斯克：也就是說(shuō),，AI是作為你自己的一個(gè)延伸，每個(gè)人本質(zhì)上都是跟AI共生的，而不是讓AI形成一個(gè)大型的中央智能,，以“它者”的形式存在,。就比如你用互聯(lián)網(wǎng)應(yīng)用程序的時(shí)候，比如電子郵件啦,，社交媒體啦,，還有手機(jī)上的應(yīng)用啦，它們實(shí)際上讓你變成了一個(gè)超人類,，你只會(huì)把它們當(dāng)作你自體的一個(gè)延伸,，而不是某種“它者”。所以,，只要我們可以引導(dǎo)AI像那個(gè)方向發(fā)展,，那樣的AI就是好的。而且,，我們?cè)贏I領(lǐng)域找到了一大批所見(jiàn)略同的工程師和研究人員,，他們都有抱有類似的觀點(diǎn)。阿爾特曼：我們認(rèn)為,，AI最好的發(fā)展方式就是圍繞著“賦予個(gè)人更大的力量,、改善個(gè)人”這樣一個(gè)目標(biāo)，同時(shí)對(duì)所有人免費(fèi)開(kāi)放,，而不是讓它變成一個(gè)比人類強(qiáng)大一百萬(wàn)倍的單一實(shí)體,。由于我們不像谷歌，不是一家營(yíng)利性質(zhì)的公司,，所以我們不用為股東謀利益,，可以專注于我們認(rèn)為對(duì)人類未來(lái)最為有利的事情。谷歌不也和公眾共享它的研究成果,，比如機(jī)器學(xué)習(xí)嗎,？阿爾特曼：它的確分享很多研究。但日后,，等到人類智能快要被超越的時(shí)候,，屆時(shí)谷歌還愿意分享多少東西，我們就不得而知了,。OpenAI里面的東西就不會(huì)超越人工智能了嗎？
阿爾特曼：我想會(huì)的,，但它就是開(kāi)源的了,，可以供任何人使用，而不是比如說(shuō)只有谷歌可以用,。這個(gè)機(jī)構(gòu)開(kāi)發(fā)的任何東西都會(huì)向所有人開(kāi)放,。如果你拿去改造成別的用途，也不必把成果再共享出來(lái),。但我們這邊的任何成果都會(huì)向所有人開(kāi)放,。如果我是邪惡博士,，它又落到我的手里，那你們豈不是助長(zhǎng)了邪惡力量,？馬斯克：?jiǎn)柕煤?，我們也一直都在?zhēng)論這個(gè)問(wèn)題。阿爾特曼：關(guān)于這個(gè)問(wèn)題,，有這么幾點(diǎn)想法,。人類可以抵御邪惡博士，因?yàn)榇蠖鄶?shù)人都是正義的,，人類的集體力量可以控制這些不良分子,。同樣的道理，我們認(rèn)為更可能出現(xiàn)的情況是,，千千萬(wàn)萬(wàn)的AI會(huì)聯(lián)合起來(lái),，共同阻撓那些偶爾出現(xiàn)的壞蛋。如果換成是一個(gè)比誰(shuí)都要強(qiáng)大十億倍的單一AI,，那它一旦跑偏,，或者落到邪惡博士的手里，那就沒(méi)有什么可以阻擋它了,，到時(shí)候我們就真的要遭殃了,。OpenAI發(fā)布的東西受不受監(jiān)督？阿爾特曼：日后我們會(huì)逐步建立一個(gè)監(jiān)督機(jī)制,。但一開(kāi)始,，只有我和伊隆在負(fù)責(zé)。我們距離開(kāi)發(fā)真正的AI還很遙遠(yuǎn),。以后會(huì)有足夠的時(shí)間去建立監(jiān)督機(jī)制,。馬斯克：我有打算和團(tuán)隊(duì)保持溝通，比如每一兩周在辦公室里待一個(gè)下午,，聽(tīng)取最新進(jìn)展,，提出反饋意見(jiàn)，同時(shí)不斷深入了解AI的發(fā)展進(jìn)度,，判斷危險(xiǎn)是不是正在迫近,。我個(gè)人會(huì)對(duì)安全問(wèn)題高度警覺(jué)，這是我非常關(guān)心的一個(gè)方面,。如果發(fā)現(xiàn)什么潛在危險(xiǎn),，我們一定會(huì)公之于眾。阿爾特曼：科幻作品里有的是，比如《終結(jié)者》里面那些，但我覺(jué)得現(xiàn)在還早得很,。短期內(nèi)我還不擔(dān)心,。我倒是比較擔(dān)心大規(guī)模的自動(dòng)化和就業(yè)的大范圍消失，雖然這算不上邪惡AI,，但確實(shí)會(huì)造成不小的挑戰(zhàn),。大家說(shuō)的邪惡AI還有一個(gè)例子，那就是可以入侵電腦的類AI程序,，它們手段比任何人類黑客都要高明得多,。這個(gè)現(xiàn)在已經(jīng)有了。 你們構(gòu)建AI是不是從一個(gè)已有的系統(tǒng)著手,？
阿爾特曼：不是,。OpenAI一開(kāi)始就跟所有的研究實(shí)驗(yàn)室沒(méi)什么兩樣，而且很長(zhǎng)一段時(shí)間內(nèi)都是會(huì)是那個(gè)樣子,。目前還沒(méi)人知道該怎么建,。最初的團(tuán)隊(duì)有八名研究人員，未來(lái)幾個(gè)月還會(huì)有新的研究員加入,。他們暫時(shí)會(huì)借用YC的辦公室,，人多了以后會(huì)搬出去。他們會(huì)搗鼓各種創(chuàng)意,，編寫(xiě)軟件,，看能不能把當(dāng)前的AI技術(shù)向前推進(jìn)。阿爾特曼：肯定會(huì),。做這樣一個(gè)完全開(kāi)放的項(xiàng)目有一個(gè)好處——因?yàn)榭梢圆皇芗s束地共享信息，我們的實(shí)驗(yàn)室可以跟任何人合作,。但你要跟谷歌的雇員合作就很難,，因?yàn)樗麄兪艿揭淮蠖驯Ｃ軛l款的約束。山姆,，考慮到OpenAI一開(kāi)始會(huì)借用YC的辦公室,，你們的初創(chuàng)企業(yè)可不可以享用OpenAI的研究成果？阿爾特曼：只要OpenAI開(kāi)發(fā)出非常不錯(cuò)的技術(shù),，而且任何人都可以免費(fèi)使用,，那它就可以惠及任何科技公司。所有公司一視同仁,。但我們會(huì)要求YC孵化器內(nèi)的公司盡可能地和OpenAI共享信息,。伊隆也會(huì)去看看特斯拉和SpaceX有什么可以共享的信息。哪些數(shù)據(jù)可以共享,，有什么例子嗎,？阿爾特曼：太多了。比如把Reddit上所有的數(shù)據(jù)拿來(lái)做訓(xùn)練集（Training set）就很不錯(cuò),。特斯拉自動(dòng)駕駛汽車(chē)的所有視頻信息應(yīng)該也會(huì)非常寶貴,。關(guān)鍵是數(shù)據(jù)量要大。想一想人們是怎么變聰明的：你讀一本書(shū),，你變聰明一點(diǎn),；我讀一本書(shū)，我變聰明一點(diǎn),。但我們不會(huì)因?yàn)閷?duì)方讀了一本書(shū),，自己就變聰明了。但以特斯拉為例,，只要有一部特斯拉汽車(chē)掌握了一種新的狀況,，那其他每一部特斯拉就都立刻長(zhǎng)知識(shí)了。馬斯克：總體上講,，我們現(xiàn)在還沒(méi)有太多的計(jì)劃,，因?yàn)檫@家公司才剛剛起步，還在萌芽階段,。但特斯拉肯定會(huì)掌握海量的數(shù)據(jù),，而且是現(xiàn)實(shí)世界的數(shù)據(jù)，因?yàn)槲覀兯械钠?chē)加起來(lái),，每天都要跑出數(shù)百萬(wàn)英里的路,。特斯拉所能掌握的現(xiàn)實(shí)世界數(shù)據(jù)也許會(huì)比世界上任何公司都要多。在于加州舊金山舉行的名利場(chǎng)雜志新成就峰會(huì)上,，特斯拉CEO兼產(chǎn)品架構(gòu)師伊隆·馬斯克和Y Combinator總裁山姆·阿爾特曼在臺(tái)上接受訪談,。
AI需要大量計(jì)算，你們的基礎(chǔ)設(shè)施哪里來(lái),？阿爾特曼：我們會(huì)和Amazon Web Services合作,。它們?yōu)榇素暙I(xiàn)了大量的基礎(chǔ)設(shè)施。外加10億美元的認(rèn)捐款項(xiàng),？馬斯克：我覺(jué)得可以毫不夸張地說(shuō),，認(rèn)捐額度實(shí)際上不止10億美元。我們不想列出具體誰(shuí)捐了多少,，但那篇博文里提到的人全都貢獻(xiàn)了不少的數(shù)目,。這些錢(qián)管多長(zhǎng)時(shí)間？阿爾特曼：AI建多久就持續(xù)多久,。我們會(huì)盡可能地節(jié)儉,，但這個(gè)項(xiàng)目可能要花上幾十年，需要大量的人力和物力,。馬斯克：對(duì),。這不是一項(xiàng)以盈利為目的的投資。未來(lái)也許會(huì)產(chǎn)生收入,。斯坦福研究所也是一個(gè)501(c)3機(jī)構(gòu),，它就有自己的收入。所以,，未來(lái)產(chǎn)生收入也說(shuō)不定,，但不會(huì)盈利，不會(huì)有盈利來(lái)回饋股東,，不會(huì)有股價(jià)等諸如此類的東西,。我們覺(jué)得這樣做也許比較好。伊隆,，你早前投資了AI公司DeepMind,，目的好像差不多，也是確保AI得到監(jiān)督,。后來(lái)谷歌把這家公司買(mǎi)走了,。這次算不算從頭再來(lái)？馬斯克：要指出的是,，我其實(shí)不是一般意義上的投資人,，我尋求的不是財(cái)務(wù)上的回報(bào)。我投資可能是因?yàn)槲覅⑴c了公司的創(chuàng)建,，可能是為了幫朋友一個(gè)忙,，也可能是因?yàn)橹С帜稠?xiàng)事業(yè)或關(guān)心某個(gè)問(wèn)題。我在自己公司以外的投資,，目的都不是為了“多元化”,。但確實(shí)，我當(dāng)初“投資”DeepMind,，就是為了更好地理解AI,，并且看住它，不讓它亂來(lái),。 然后還要跟DeepMind,、Facebook或Microsoft爭(zhēng)奪頂尖科學(xué)家？
阿爾特曼：到目前為止,，我們的招聘都進(jìn)行得非常順利,。我們很吸引研究人員的一點(diǎn)就是自由、開(kāi)放和工作成果的共享,，業(yè)界很多實(shí)驗(yàn)室都達(dá)不到我們這種程度,。我們吸引到的首發(fā)團(tuán)隊(duì)非常優(yōu)質(zhì)，以至于光是沖著這個(gè)團(tuán)隊(duì),，就有很多人想來(lái)加入我們,。但歸根結(jié)底,，我覺(jué)得，真正吸引大家的還是我們的使命,、愿景還有架構(gòu),。回到剛剛那個(gè)觀點(diǎn),，你們說(shuō)共享AI也許有利于避免最壞的后果,。但它越容易獲得，潛在危險(xiǎn)不就更大嗎,？
阿爾特曼：我跟伊隆還有其他人不知道花了多少個(gè)小時(shí)爭(zhēng)論這個(gè)話題,，到現(xiàn)在我都不是百分之百確定。百分百確定是不可能的,，對(duì)吧,？但你可以設(shè)想各種情景。我們會(huì)想到把技術(shù)保密起來(lái),，但這樣做常常達(dá)不到保障安全的目的,。如果只有一個(gè)人可以擁有，你又怎么決定那個(gè)人是谷歌呢,，還是美國(guó)政府呢,，還是中國(guó)政府呢，還是ISIS或者誰(shuí)呢,？世界上壞人很多,，但人類還是能繼續(xù)繁榮發(fā)展?？梢匀绻霈F(xiàn)這么一個(gè)人,，他比其他人都強(qiáng)大十億倍，那又該怎么辦呢,？馬斯克：我覺(jué)得,，要防范AI濫用，最強(qiáng)有力的手段還是讓盡可能多的人擁有AI,。如果所有人都有AI能力,，那一個(gè)個(gè)人或一小批個(gè)人的AI能力再大，也不會(huì)高出其他人太多,。伊隆,，你現(xiàn)在擔(dān)任兩家公司的CEO以及另一家公司的董事長(zhǎng)。想必沒(méi)有什么時(shí)間投入新項(xiàng)目吧,？
|
