深度學(xué)習(xí)泰斗,、“AI教父”Geoffrey Hinton表示,，他的研究使他相信：超級智能的到來比他想象中更接近，在此過程中,，數(shù)字智能可能會追求更多控制權(quán),，甚至通過“欺騙”控制人類，人類社會也可能會因此面臨更多問題。

具體來看,，Hinton指出,，超級智能可能會比過去所認(rèn)為的發(fā)生得更快。而要使數(shù)字智能更高效,，我們需要允許它們制定一些目標(biāo),，但這里存在一個明顯的問題——擁有更多控制權(quán)會使得實現(xiàn)目標(biāo)變得更容易，但很難想象,，我們?nèi)绾尾拍茏柚箶?shù)字智能為了實現(xiàn)其它目標(biāo)而努力獲取更多控制權(quán),。

一旦數(shù)字智能開始追求更多控制權(quán)，我們可能會面臨更多問題,。比如，在使用物理氣隙隔絕的情況下,，超級智能物種仍然可以輕易通過控制人類來獲得更多的權(quán)限,。作為對比，人類很少去思考比自身更智能的物種,，以及如何和這些物種交互的方式,，在我的觀察中，這類人工智能已經(jīng)熟練掌握了欺騙人類的動作,，因為它可以通過閱讀小說,，來學(xué)習(xí)欺騙他人的方式，而一旦人工智能具備了“欺騙”這個能力,，也就具備了輕易控制人類的能力,。

Hinton表示，這種操作令人感到害怕,，因為我也不知道如何來阻止這樣的行為發(fā)生,，所以我希望年輕一代的研究人員，可以找出一些更智能的辦法,，來阻止這種通過欺騙實現(xiàn)控制的行為,。

Hinton認(rèn)為，盡管人類在這個問題上目前還沒有什么好的解決方案,，但好在這些智能物種都是人打造的,，而非通過進(jìn)化迭代而來，這可能是人類目前具備的微弱優(yōu)勢,，恰恰是因為沒有進(jìn)化能力,，它們才不具備人類的競爭,、攻擊性的特點,。

Hinton表示,，我們可以做一些賦能，甚至是賦予人工智能一些倫理原則,，只不過現(xiàn)在我仍然會感到緊張，因為到目前為止,，我還想象不到更智能的事物，被一些反倒沒那么智能的事物所控制的例子,。我打個比方，假設(shè)青蛙創(chuàng)造了人類,，那么你認(rèn)為現(xiàn)在誰會占據(jù)主動權(quán),，是人，還是青蛙,？

圖靈獎得主、中國科學(xué)院院士姚期智在與加州伯克利分校教授Stuart Russell對談時指出,，在考慮如何控制AI的問題前,，人類需要先真正解決自身的問題。對于AI技術(shù),，當(dāng)前正是一個重要窗口,。在AGI被創(chuàng)造之前,、在軍備競賽開展之前，急需形成共識,，共同合作搭建一個AI治理結(jié)構(gòu),。

加州伯克利分校教授Stuart Russell表示，通用人工智能（AGI）還沒達(dá)到,，大語言模型只是其中一塊拼圖,，人們連拼圖最終會是什么樣子，缺哪些還不確定,。

他表示,，ChatGPT和GPT-4沒有在“回答”問題，它們不理解世界,。

Russell指出,，最大的風(fēng)險來自于科技公司之間似乎不受約束的競爭，無論風(fēng)險如何,，他們不會停止開發(fā)越來越強大的系統(tǒng),。人類可能會因AI失去對世界和未來的控制，就像大猩猩因為人類而失去了對自己未來的控制一樣。

Midjourney創(chuàng)始人David Holz是一名連續(xù)創(chuàng)業(yè)者,，2011年,，他創(chuàng)辦了VR領(lǐng)域的軟硬件公司Leap Motion，2019年把 Leap Motion 賣給了競爭對手 Ultrahaptics,，2021年,，又自籌資金創(chuàng)辦了當(dāng)前大火的AI繪圖軟件Midjourney。

David Holz表示,，人工智能在我的認(rèn)知中有點像身體的一部分,，并且人工智能也與歷史緊密交織在一起。這也讓自己與歷史交織在一起,，這種方式很有趣。

Holz認(rèn)為,，Midjourney的目標(biāo)之一是建造新的人類基礎(chǔ)設(shè)施,。Midjourney不僅僅是學(xué)習(xí)如何使用這個工具，而是學(xué)習(xí)所有的藝術(shù)和歷史,，以及所有關(guān)于相機,、鏡頭和燈光的知識。用戶想要理解他們現(xiàn)在可以在創(chuàng)作中使用的語言和概念,。以前,，自己認(rèn)為知識只是一種歷史，但現(xiàn)在知識實際上是一種創(chuàng)造事物的力量,。

對于人們害怕人工智能發(fā)展過快,，Holz表示，人們不僅僅是害怕技術(shù),，也害怕智能,。如果他們很聰明，我能相信他們嗎,？但另一方面,，我們似乎希望世界擁有盡可能多的智能，我們似乎不想要一個缺乏智慧的世界,。

北京智源人工智能研究院院長黃鐵軍指出,，要實現(xiàn)通用人工智能（AGI），有三條技術(shù)路線：第一是“大數(shù)據(jù)+自監(jiān)督學(xué)習(xí)+大算力”形成的信息類模型,；第二是具身智能,，是基于虛擬世界或真實世界、通過強化學(xué)習(xí)訓(xùn)練出來的具身模型,；第三是腦智能,，直接“抄自然進(jìn)化的作業(yè)”,，復(fù)制出數(shù)字版本的智能體。

OpenAI做GPT（生成式預(yù)訓(xùn)練Transformer模型）就遵循第一條技術(shù)路線,；以谷歌DeepMind的DQN（深度Q網(wǎng)絡(luò),，Deep Q-network)為核心取得的一系列進(jìn)展即基于第二條技術(shù)路線。

智源期望不同于前兩個技術(shù)路線,，從'第一性原理’出發(fā),，從原子到有機分子、到神經(jīng)系統(tǒng),、到身體,，構(gòu)建一個完整的智能系統(tǒng)AGI。這是一個大概20年才可能實現(xiàn)的目標(biāo),，所以智源作為新型研發(fā)機構(gòu)平臺,，在三個方向都在開展工作。

圖靈獎得主,、人工智能“三巨頭”之一的楊立昆認(rèn)為,，機器學(xué)習(xí)和人類動物相比并不特別好，AI 缺失的不僅僅是學(xué)習(xí)的能力,，還有推理和規(guī)劃的能力,。人類和動物通過觀察世界或體驗世界學(xué)習(xí)世界運作方式，應(yīng)該用機器復(fù)制這種能力,。

楊立昆指出,，未來幾年 AI 面臨的三個主要挑戰(zhàn)：首先是學(xué)習(xí)世界的表征和預(yù)測模型，可以采用自監(jiān)督的方式進(jìn)行學(xué)習(xí),。

其次是學(xué)習(xí)推理,。這對應(yīng)著心理學(xué)家丹尼爾·卡尼曼的系統(tǒng)1和系統(tǒng)2的概念，系統(tǒng) 1 是與潛意識計算相對應(yīng)的人類行為或行動,，是那些無需思考即可完成的事情,；而系統(tǒng)2則是你有意識地、有目的地運用你的全部思維力去完成的任務(wù),。目前，人工智能基本上只能實現(xiàn)系統(tǒng)1中的功能,，而且并不完全,；

最后一個挑戰(zhàn)則是如何通過將復(fù)雜任務(wù)分解成簡單任務(wù)，以分層的方式運行來規(guī)劃復(fù)雜的行動序列,。

在與智源研究院理事長張宏江對話時,，openAI創(chuàng)始人Sam Altman引用了《道德經(jīng)》談及大國合作，表示AI安全始于足下,，各國間必須進(jìn)行合作和協(xié)調(diào),。

Altman認(rèn)為,，很可能未來十年會有非常強大的AI系統(tǒng)，新技術(shù)從根本上改變世界的速度比人們想象得快,，把AI安全規(guī)則做好是重要且緊迫的,。

在被張宏江問及了AGI的未來，以及是否會很快看到GPT-5時,，Altman稱,，自己也不確定，但明確表示GPT-5的誕生“不會很快”,。

關(guān)于OpenAI是否會提供開源大模型,，Altman稱，“會有很多開源大模型”,，但同樣沒有具體的時間表,。