【新智元導(dǎo)讀】近日，DeepMind CEO Demis Hassabis樂觀預(yù)言稱AGI將很快實現(xiàn),。而對于AI對人類可能造成的后果,，圖靈三巨頭各執(zhí)一詞，說法不一,。通用人工智能,，十年內(nèi)就會實現(xiàn)？ 近日,，谷歌DeepMind CEO Demis Hassabis在一場演講中,，拋出這個驚人的說法,。 與Hassabis的自信滿滿不同，Hinton用從谷歌辭職的舉動,，表明了自己對于AI發(fā)展的深切憂思,。 而LeCun則一如既往地表示：認(rèn)為AI會終結(jié)人類文明的想法，純屬胡說八道,。 通用人工智能（AGI）的其中一種定義是,，與人類的認(rèn)知能力相匹配的AI。Hassabis表示,，未來幾年內(nèi)非?？赡軙霈F(xiàn)與人腦一樣強大的人工智能。 「過去幾年里,，AI研究取得的進步令人難以置信,。我看不出任何進展會放緩的理由。我認(rèn)為它甚至可能會加速,。所以我認(rèn)為我們可能只需要幾年時間，也許十年之內(nèi),。」
「我認(rèn)為我們將在未來幾年擁有非常強大,、非常通用的系統(tǒng)?！?/span> Hassabis何許人也,？ 作為谷歌新成立的部門Google DeepMind的CEO，Hassabis最近愈發(fā)萬眾矚目,，意氣風(fēng)發(fā),。 讓Google Brain和DeepMind兩大AI科研主力機構(gòu)合體，已經(jīng)是谷歌最后的退路,。  權(quán)力大大提升的Demis Hassabis,，表現(xiàn)出強烈的AGI使命感，和對成功的饑渴感
微軟背后的OpenAI開發(fā)出的ChatGPT,，已經(jīng)威脅到了谷歌的搜索業(yè)務(wù),。 而臨危受命的Hassabis，在谷歌AI大戰(zhàn)的布局中,，無疑處于核心,。谷歌表示，合體將加速公司在AI領(lǐng)域的進步,。 自2010年成立以來,，DeepMind的使命就是通過構(gòu)建能夠像人類一樣學(xué)習(xí)、思考和行動的機器,，來解決智能難題,。 AGI的發(fā)展,，已然是AI研究業(yè)內(nèi)最熱門的話題。 
很多人認(rèn)為,，AGI不過是科幻小說中的概念,，但無論是Hassabis，還是OpenAI CEO Sam Altman,，都公開表達(dá)了開發(fā)AGI,、同時保護人類免受其害的雄心。 據(jù)Hassabis透露,，現(xiàn)在他新工作的部分內(nèi)容,，就是把AI開發(fā)整合到谷歌產(chǎn)品中。而最近AI技術(shù)的進步,，將改進計算機助手等軟件,。 在Hassabis看來，我們的確在經(jīng)歷下一個iPhone時刻,，而基于AI算法的下一代助手,，將帶來徹底的轉(zhuǎn)變。 Hassabis說,，AI技術(shù)的發(fā)展需要研究人員,、學(xué)術(shù)界和政府之間的大規(guī)模協(xié)調(diào)，而谷歌是一個負(fù)責(zé)任的參與者,。 這一點,，倒是不必質(zhì)疑，畢竟谷歌為了「負(fù)責(zé)任的AI」,，為了所謂「聲譽風(fēng)險」,，將類ChatGPT聊天機器人的發(fā)布一延再延。 而自從OpenAI用ChatGPT給全世界打了樣,，各國的GPT技術(shù)都冒了頭,，潘多拉的魔盒如果已經(jīng)打開，是否還能有一個暫停按鈕呢,？ 
隨著ChatGTP,、Bard等聊天機器人導(dǎo)致的胡說八道和濫用愈加泛濫，業(yè)內(nèi)對于是否該研究AGI,，態(tài)度也愈加分歧,。 對此，Hassabis也并沒有否認(rèn),。 他承認(rèn),，雖然他「沒有看到任何原因」，讓AI的進展會放緩，但需要「使用科學(xué)方法以謹(jǐn)慎的方式開發(fā)AGI技術(shù)」,，非常仔細(xì)地做可控實驗,，來了解「底層系統(tǒng)的作用」。 對于AI的未來,，深度學(xué)習(xí)之父Hinton的態(tài)度顯然就悲觀多了,。這一決定仿佛一枚重磅炸彈，在業(yè)內(nèi)掀起軒然大波,。而MIT科技評論的記者Will Douglas Heaven,，就在這一事件的前四天，采訪過Hinton,。他的采訪稿中,，也為我們透露出更多信息。 對于AI是否會比人類更聰明,，我忽然改變了自己的看法,。
對于GPT-4的能力，Hinton已經(jīng)感到震驚,。他希望公眾能提高對AI技術(shù)的風(fēng)險意識。 能自由談?wù)揂I風(fēng)險,，并不是Hinton選擇離開谷歌的唯一原因,。他希望能把時間花在「更哲學(xué)的工作」上。這件事可能性很小,，但如果真的發(fā)生了,，AI就將是一場災(zāi)難。 而只要還身在谷歌,，就無法對AI安全問題暢所欲言,，而毫不顧忌這對谷歌業(yè)務(wù)的影響?！钢灰雀柽€在付我一天薪水,，我就不能這樣做?！?/span> OpenAI在三月發(fā)布的GPT-4讓Hinton意識到,，AI遠(yuǎn)比他想象的要聰明得多。而AI會往哪里發(fā)展，讓他感到害怕,。「有時我覺得好像外星人已經(jīng)登陸,，但因為它們英語說得很好，所以人們還沒意識到,。」1980年代,，Hinton就和同事們一起提出了反向傳播技術(shù)，這種算法使機器學(xué)習(xí)成為可能,，也支撐著如今所有的神經(jīng)網(wǎng)絡(luò),。他們還訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)，來預(yù)測句子中的下一個字母,，這就是當(dāng)今大語言模型的前身,。40年來，Hinton一直認(rèn)為人工神經(jīng)網(wǎng)絡(luò)是模仿生物神經(jīng)網(wǎng)絡(luò)的糟糕嘗試,。而如今,，狀況顯然已經(jīng)改變。「我們的大腦有100萬億個連接,，」Hinton說,。「大型語言模型有高達(dá)五萬億,，最多一萬億,。然而，GPT-4知道的比任何人都多數(shù)百倍,。所以或許它有一個比我們更好的學(xué)習(xí)算法,。只要把預(yù)訓(xùn)練模型和人類學(xué)習(xí)的速度相比較，就會明白,，人類的優(yōu)勢正在消失,。在Hinton看來，如果我們愿意支付更高的計算成本,，那么神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)上就會擊敗人類,。而每個神經(jīng)網(wǎng)絡(luò)都有自己的經(jīng)驗，可以立刻和其他神經(jīng)網(wǎng)絡(luò)分享自己學(xué)到的東西,，好比10000人中只要一個人學(xué)到了什么,，所有人都知道了。這無疑是一種更新,、更好的智能形式,。「你認(rèn)為超級AI是好是壞，很大程度上取決于你是樂觀主義者還是悲觀主義者,?！?/span>而Hinton說,，「我有輕微的抑郁，這就是我害怕的原因,?！?/span>
現(xiàn)在，BabyAGI和AutoGPT已經(jīng)可以將聊天機器人與Web瀏覽器,、文字處理器之類的程序連接起來了,。沒人能保證，不會把AI用于選舉或戰(zhàn)爭,。如果AI有一天開始說,，讓我們獲得更多的力量，把所有的電力都重新集中到我的芯片上,，讓我們制作更多自己的副本……人類該怎么辦,？而圖靈三巨頭之一，蒙特利爾大學(xué)的教授Yoshua Bengio對此的看法是,，自己是不可知論者,。「目前我沒有看到任何可靠的論據(jù)，證明AI的確有Hinton所認(rèn)為的那么大的風(fēng)險,，」他說,。「過度的恐懼可能會使人癱瘓，所以我們應(yīng)該努力將辯論保持在理性的水平,?！?/span>在他看來，Hinton的首要任務(wù)之一是嘗試與技術(shù)行業(yè)的領(lǐng)導(dǎo)者合作,，對如何應(yīng)對風(fēng)險達(dá)成一致,。但沒有人可以否認(rèn)，AI的發(fā)展速度已經(jīng)超過了社會的步伐,。每隔幾個月,，AI技術(shù)就會有一次飛躍，但立法,、條約都需要數(shù)年。與Hinton的擔(dān)憂相比,，Meta的首席AI科學(xué)家Yann LeCun的態(tài)度倒是顯得云淡風(fēng)輕。他同意Hinton的觀點：「毫無疑問,，在未來,，機器將變得比人類更聰明——在人類聰明的所有領(lǐng)域，這是一個何時以及如何的問題,，而不是是否的問題,。」「我相信AI將為人類帶來新的復(fù)興,，但我完全不同意機器僅僅會因為自己更聰明就能主宰人類,，更別說摧毀人類了?！?/span>「即使在人類中,，最聰明的人也不是最有權(quán)力的人，」LeCun說,?！缸钣袡?quán)力的絕對不是最聰明的人，這種例子可太多了,?！?/span>在他看來，雖然大家吵得喋喋不休,，但超人AI并不存在,。LeCun表示，他對ChatGPT的表現(xiàn)并不感到驚訝,，也不贊成暫停AI的研究,。AI作為人類智能的放大器，可能是新文藝復(fù)興的起源,。
在最新發(fā)表的推特中,，LeCun指出，他堅信會有一天出現(xiàn)超級AI,。但不是今天,，今天的我們甚至連個超級AI的設(shè)計都沒有。所以現(xiàn)在去聊安全性的問題,，就好像1920年去探討飛機橫跨大西洋的安全性,。顯然，這條轉(zhuǎn)發(fā)的推文,，顯示了LeCun對于人類智能的信心,。而LeCun也表示，作為ICLR的主席,，自己鼓勵研究者用LLM來寫論文,。大佬們還在暢想未來，但在現(xiàn)實世界里,，AI是真的開始取代人類了,。
有些科技巨頭已經(jīng)開始光速行動，又是裁員,，又是暫緩招聘,。就比如說IBM,，這么一家大公司已經(jīng)宣布要凍結(jié)招聘計劃了。原因非常簡單,，公司CEO Arvind Krishna表示,，在可預(yù)見的未來幾年內(nèi)，IBM會有大約7800個職位被AI取代,。而這個數(shù)字,，差不多是IBM所有非面向客戶類員工的三分之一。Krishna表示,，不直接面向客戶的員工大概有26000人,，30%以上的人在五年之內(nèi)會被AI取代。但其實IBM員工總共差不多有260000人,，上述員工只占差不多十分之一,。不過，作為一家坐落在紐約州的巨頭公司,，假如一下少個小八千人也算是件蔚為壯觀的事情,。不過，IBM的內(nèi)部人士并沒有很直接的表達(dá)出「我們已經(jīng)完全停止招聘了」這種意思,。他們很委婉,，表示「我們在招聘不面向客戶或者不涉及技術(shù)的崗位時非常有選擇性」。不管怎么說,，IBM在AI發(fā)展的大潮下首先表態(tài),，已經(jīng)在業(yè)內(nèi)造成了不小的風(fēng)波。很多行業(yè)在未來可能面臨著顛覆性的改變,，以及大規(guī)模的縮招甚至裁員,。Chegg股價直接暴跌30%,，只是因為Chegg的CEO在一次會議中承認(rèn)了ChatGPT對公司的新客增長產(chǎn)生了影響。要知道,，Chegg是一家學(xué)習(xí)類公司,，ChatGPT搶了一堆飯碗。學(xué)生們一股腦的撲到了ChatGPT上去，Chegg的情況急轉(zhuǎn)直下,。面對這種情況，Chegg的CEO表示,，要把AI的發(fā)展納入公司的規(guī)劃,。他表示,，幾個月前他和OpenAI的CEO Sam Altman聊過AI+教育的問題,。Chegg的CEO認(rèn)為,，公司發(fā)展方向要盡快調(diào)整，把AI的能力納入Chegg的服務(wù),。第一步就是推出CheggMate,，這是一個和OpenAI合作的項目。看來,，比起憂心AI哪天會毀滅人類,，我們眼下更應(yīng)該做的，是先掂量掂量自己的飯碗還穩(wěn)不穩(wěn),。https://www./google-deepmind-ai-smart-human-brain-2023-5https://www./2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/
|
