|
圖 | 格雷格·布羅克曼（Greg Brockman）（來源：領(lǐng)英）當?shù)貢r間 11 月 18 日,，格雷格在 X 上（原 Twitter）上撰文回顧了自己和山姆被迫出局之前發(fā)生的幾件事情,。格雷格寫道：“昨晚，山姆收到伊利亞的短信,，要求在周五中午進行交談,。山姆加入了 Google Meet，除了格雷格之外,，整個董事會都在場,。伊利亞告訴山姆他被解雇了，這個消息很快就會傳出去,。12:19pm,，格雷格收到伊利亞的短信，要求進行一個快速的電話,。12:23pm,，伊利亞發(fā)送了一個 Google Meet 的鏈接。格雷格被告知他將被從董事會中撤職（但由于他對公司至關(guān)重要因此將保留他的職位,，于此同時山姆要被解雇）,。大約在同一時間,，OpenAI 發(fā)布了一篇博客文章。據(jù)我們所知,，管理團隊在此之后不久就得知了這個消息，除了在前一晚得知的米拉之外,?！?/span>圖 | 格雷格在推文中回顧了相關(guān)細節(jié)（來源：X）在此次“大變天”之中,，相比被推至舞臺中央擔任臨時 CEO 的米拉，伊利亞顯得更加“隱身”,。不過據(jù) The Information 報道,，在山姆被掃地出門的當天，OpenAI 立馬舉行全會大會,，會上有人問伊利亞這是否是一場“政變”,。伊利亞表示：“你可以這么說，但我覺得這只是董事會在履行自己的職責,。”Gillett News 報道稱：“伊利亞認為作為 CEO 的山姆沒有針對減輕 AI 風險給予足夠的重視,，伊利亞還對自己在公司中的作用減弱表示不滿?！绷頁?jù) TechCrunch 報道,，伊利亞反駁了把山姆趕出公司的說法，并聲稱有必要保護“讓 AI 有益于人類”的使命,。The Information 還報道稱：“伊利亞可能會感到奧特曼過于迅速地將軟件商業(yè)化,，這（軟件商業(yè)化）已經(jīng)成為一個價值十億美元的業(yè)務，但這卻犧牲了潛在的安全問題,?！?/span>圖 | 伊利亞·蘇茨克維（Ilya Sutskever）（來源：《麻省理工科技評論》）伊利亞是誰？他和“踢走 CEO” 有無關(guān)系,？作為 OpenAI 的首席科學家,，伊利亞有著耀眼的經(jīng)歷，會說英語,、希伯來語和俄語,。他出生于前蘇聯(lián)，目前是加拿大國籍,。其曾先后就讀于以色列開放大學,、加拿大多倫多大學,，并在多倫多大學獲得碩博學位，師從圖靈獎得主,、“AI 三巨頭”之一的杰弗里·辛頓（Geoffrey Hinton）,。伊利亞和導師以及另一位同學曾共同發(fā)明卷積神經(jīng)網(wǎng)絡 AlexNet。博士畢業(yè)之后,，伊利亞來到美國斯坦福大學從事博后研究,，師從當時在斯坦福擔任教授的吳恩達。隨后,，伊利亞回到加拿大加入導師辛頓創(chuàng)辦的公司 DNNResearch,。2013 年，Google 收購 DNNResearch,，伊利亞也隨之成為 Google Brain 項目的研究科學家,。在 Google 那篇著名的 AlphaGo 論文中，伊利亞是共同作者之一,。2015 年 12 月,，在 OpenAI 正式成立的月份里，他離開 Google 正式加入 OpenAI,。也是在這一年,，他還入選“《麻省理工科技評論》35 歲以下科技創(chuàng)新 35 人”全球榜單。不過,，伊利亞真正決定離開 Google 之前也曾十分糾結(jié),。作為 OpenAI 早期董事會成員的埃隆·馬斯克（Elon Musk）曾公開表示：“那是一場艱苦的招募，一邊是 Demis,，另一邊是我,，我們倆都試圖招募伊利亞，伊利亞則來回走動,，他在留在 Google 和加入 OpenAI 之間猶豫不決,，最后他同意加入 OpenAI?！?/span>馬斯克這里提到的 Demis,，是 Google 旗下公司 DeepMind 的創(chuàng)始人戴密斯·哈薩比斯（Demis Hassabis）。最終,，伊利亞還是選擇了 OpenAI,，拒絕了 DeepMind。馬斯克認為招募到伊利亞是 OpenAI 的“關(guān)鍵時刻”,，并夸獎他“是一個好人,，聰明且心地善良”。至少從伊利亞的簡歷來看，他的技術(shù)能力應該高于此次被推到臺前擔任臨時 CEO 的米拉·穆拉緹（Mira Murati）,。盡管米拉也畢業(yè)于美國達特茅斯學院這樣的常青藤名校,，但她僅僅擁有機械工程的學士學位，既沒有伊利亞這樣的高學歷,，也不像伊利亞那樣師從 AI 名師并參與撰寫 AI 里程碑論文,。因此，米拉是否只是伊利亞的代理人,？目前還很難說,。更加值得玩味的是，當?shù)貢r間 11 月 7 日,，山姆在 OpenAI 開發(fā)者大會上宣布“GPT 全家桶”，試圖為公司帶來更大的商業(yè)化利益,。結(jié)果不到兩周時間山姆就意外出局,。事發(fā)之后，山姆在一則推文中表示：“今天的經(jīng)歷在很多方面都很奇怪,。有點像在自己還活著的時候讀自己的悼詞,。”而更早之前的 10 月 26 日,，加入 OpenAI 以后很少公開露面的伊利亞,，接受了《麻省理工科技評論》的專訪。自從 OpenAI 大火以來,，一直都是山姆以 CEO 的身份在各種場合代表公司發(fā)言,。如今來看，伊利亞在此次事情發(fā)生之前接受媒體專訪,，或許正是一個先兆,。那么，伊利亞在專訪中主要講了什么,？他和山姆是否真的有觀念上的分歧,？在《麻省理工科技評論》的專訪中，伊利亞表示自己并不打算構(gòu)建下一個 GPT 或圖像生成模型 DALL-E,，而是打算弄清楚如何阻止超級人工智能變得不受控制,。作為未來主義的信徒，他認為這種仍處于假設(shè)的未來技術(shù)終將出現(xiàn),。他認為 ChatGPT 可能是有意識的,。他還認為，人們需要意識到 OpenAI 和其他公司正在競相創(chuàng)造的技術(shù)的真正力量,。他相信,，會有一些人在未來選擇與機器融合。他說，ChatGPT 已經(jīng)改變了很多人對于即將發(fā)生的事情的期望,，從“永遠不會發(fā)生”變成了“比想象中發(fā)展得更快”,。在預測通用人工智能的發(fā)展之前（指的是像人類一樣聰明的機器），他說：“重要的是要談論它的發(fā)展方向,。在某個時候,，我們真的會看到通用人工智能。也許 OpenAI 會構(gòu)建它,，也許是其他公司,。”自 2022 年 11 月 ChatGPT 突然發(fā)布以來,，圍繞 OpenAI 的討論一直層出不窮,，即使在一個以炒作而聞名的行業(yè)中也是如此。沒有人對這家估值 800 億美元創(chuàng)業(yè)公司感到厭倦,，它的產(chǎn)品名字活躍于人們茶余飯后的閑聊中,。2023年夏天，山姆進行了為期數(shù)周之久的宣傳之旅,，他與政客們一一握手,，并在全球各地的擁擠會場里發(fā)表演講。但伊利亞此前并不是一個公眾人物,，他也并沒有接受太多的采訪,。相比之下伊利亞說話深思熟慮，有條不紊,。當他思考自己想說什么以及如何說時,，會有很長的停頓，把采訪問題像他需要解決的難題一樣翻來覆去地思考,。他似乎對于談論自己的生活并不感興趣,。“我過著非常簡單的生活,，”他說,，“我去上班，然后回家,，幾乎不做什么別的事情,。能參加的社交活動有很多，但我不去,?！?/span>不過，當談論人工智能,、以及他所看到的劃時代風險和回報時,，他則鄭重其事地表示：“這將是無法忽視的、驚天動地的、劃分時代的（東西）,?！?/span>而他的導師辛頓也曾在 2023 年公開表達了對于人工智能的擔憂。伊利亞不想評論辛頓的聲明,，但他對于超級人工智能被惡意使用的關(guān)注,，表明這對師生有著相似的看法。幾年前,，辛頓與楊立昆（Yann LeCun）和約書亞·本吉奧（Yoshua Bengio）共同獲得圖靈獎,，以表彰他們在神經(jīng)網(wǎng)絡方面的工作。不過,，當伊利亞在本世紀初加入辛頓課題組讀書的時候,，大多數(shù)人工智能研究人員都認為神經(jīng)網(wǎng)絡是一條死胡同。然而,，辛頓是一個例外,。伊利亞說，辛頓當時已經(jīng)在訓練很小的模型,，一次可以生成一個字符的短文本字符串：“這是生成式人工智能的開始。這真的很酷,，只是當時表現(xiàn)不夠好,。”像辛頓一樣,，伊利亞看到了神經(jīng)網(wǎng)絡的潛力,。而辛頓用來訓練神經(jīng)網(wǎng)絡的試錯技術(shù)，又被稱為深度學習,。2012 年,，伊利亞、辛頓和辛頓的另一位研究生亞歷克斯·克里熱夫斯基（Alex Krizhevsky）建立了一個名為 AlexNet 的神經(jīng)網(wǎng)絡,，他們訓練 AlexNet 去識別照片中的物體,。經(jīng)過多年的嘗試，神經(jīng)網(wǎng)絡在識別照片規(guī)律上的有效性已經(jīng)得到證明,。但是,，要想實現(xiàn)更好的效果，就需更大的數(shù)據(jù)集,，同時也需要更大的算力,。算力的飛躍來自于英偉達制造的圖形處理器（GPU，graphics processing unit）,。顯卡本來是用在電子游戲領(lǐng)域的,，但它們所擅長的運算方式，恰好看起來很像訓練神經(jīng)網(wǎng)絡所需的計算。英偉達現(xiàn)在是一家價值萬億美元的公司,。但在當時,，它迫切希望為其小眾的新硬件尋找用武之地?！爱斈惆l(fā)明一項新技術(shù)時,，你必須接受瘋狂的想法，”英偉達 CEO 黃仁勛說,，“我的心態(tài)一直是不斷尋找一些古怪的東西,，而神經(jīng)網(wǎng)絡將改變計算機科學的想法，（在當時）的確是一個非常古怪的想法,?！?/span>黃仁勛說當辛頓團隊開發(fā) AlexNet 時，英偉達送給后者幾個 GPU 進行嘗試,。但是,，辛頓團隊想要當時最新版的 GTX 580 顯卡，由于供不應求這在當時很難買到,。黃仁勛講了一個故事,，伊利亞從加拿大多倫多開車越過美加邊境，跑到美國紐約買了一些,?！叭藗冊谏痰晖饷媾胖L隊，”黃仁勛說,，“我不知道他（伊利亞）是怎么做到的,，但我很確定當時的規(guī)定是每人只能買一個。我們有非常嚴格的政策,，每個游戲玩家一個,，但他顯然用了一些辦法，買了一整個后備箱的顯卡,。那個裝滿 GTX 580 的后備箱改變了世界,。”這是一個頗具傳奇色彩的故事,，但可能不是真的,。伊利亞堅稱他在網(wǎng)上購買了第一批顯卡。在 AlexNet 成功之后,，Google 找上門來,。它收購了辛頓手里的衍生公司 DNNresearch 并聘請了伊利亞。在 Google,，伊利亞發(fā)現(xiàn)深度學習的規(guī)律識別能力,，能被用于數(shù)據(jù)序列比如單詞,、句子、以及圖像,。伊利亞的前同事,、現(xiàn)任 Google 首席科學家的杰夫·迪恩（Jeff Dean）說：“伊利亞一直對語言感興趣，多年來我們都保持著很好的交流,。伊利亞對事情的發(fā)展方向有很強的直覺,。”但伊利亞并沒有在 Google 呆太久,。如前所述,，后來他被招募成為 OpenAI 的聯(lián)合創(chuàng)始人。在 10 億美元的支持下,，再加上硅谷的“噱頭”,，這家新公司從一開始就將目光投向了開發(fā)通用人工智能。山姆的前同事,、Y Combinator 投資總經(jīng)理道爾頓·考德威爾（Dalton Caldwell）回憶稱：“我記得山姆說伊利亞是世界上最受尊敬的研究人員之一,，他認為伊利亞能夠吸引很多頂尖的人工智能人才。他甚至提到,，約書亞·本吉奧也認為不太可能找到比伊利亞更好的候選人來擔任 OpenAI 的首席科學家,。”然而,，OpenAI 一開始就陷入了困境,。“當我們剛創(chuàng)立 OpenAI 時,，我不確定該如何繼續(xù)下去，”伊利亞說,，“但我有一個非常明確的信念,，那就是人們不會反對深度學習?！?/span>他的信心得到了回報,。OpenAI的第一個 GPT 大型語言模型出現(xiàn)在 2016 年。接著是 GPT-2 和 GPT-3,，然后是 DALL-E,。從來沒有人創(chuàng)造出這么強大的東西。隨著每個版本的發(fā)布,，OpenAI 都提高了人們心目中“可能”的標準,。2022 年 11 月，OpenAI 發(fā)布聊天機器人 ChatGPT,，盡管這款產(chǎn)品只是對現(xiàn)有技術(shù)的包裝,。但是,，它重置了整個行業(yè)的進程。當時,，OpenAI 還不知道 ChatGPT 能帶來什么,。伊利亞說公司內(nèi)部對于 ChatGPT 也沒有太高期望：“我不得不承認這點，雖然有些尷尬,，但這是真的,。當我們創(chuàng)造 ChatGPT 時，我不知道它是否能帶來任何好處,。當你問它一個事實性問題時,，它會甩給你一個錯誤的答案。我覺得它是如此地平淡無奇,，以至于人們會說你做這個東西干什么,？這太無聊了！” 然而,，人們關(guān)注的重點是便捷性,。在 ChatGPT 發(fā)布之時，其背后的大型語言模型已經(jīng)存在數(shù)月之久,。但是,，將其包裝在一個易用的網(wǎng)頁上并免費開放，這讓數(shù)十億人第一次意識和接觸到 OpenAI 以及其他公司正在構(gòu)建的東西,。“這種第一次的使用體驗吸引了人們,，”伊利亞說，“第一次使用它時,，我認為這幾乎是一種精神之旅,。你會覺得，我的天啊,，這臺電腦明白我在說什么,。”OpenAI 在不到兩個月的時間里積累了 1 億用戶,。盡管 ChatGPT 有時會給出愚蠢的回應,，但是人們看到了它的可能性。伊利亞說：“（自此以后）通用人工智能不再是機器學習領(lǐng)域人人避之不及的一個詞,。人們之前采取的態(tài)度是：人工智能行不通,，每一步都非常困難，你必須為一點點的進步而戰(zhàn),。但是有了 ChatGPT,，開始變得不一樣了?！?/span>“這主要是因為 ChatGPT 的誕生,，”他說,，“ChatGPT 讓機器學習研究人員開始有資格做夢。現(xiàn)在有人在談論人工智能會走多遠,。人們也開始談論通用人工智能,，或者超級智能。而且不僅僅是研究人員,，政府也在談論它,。”他說：“這太瘋狂了,?！?/span>伊利亞堅持認為，所有這些關(guān)于尚未（也可能永遠不會）出現(xiàn)的技術(shù)的討論都是一件好事,，因為它讓更多人看到了未來的樣子,。“你可以用通用人工智能做很多令人驚奇的、不可思議的事情,，比如自動化醫(yī)療保健,，讓它便宜一千倍，好一千倍,，治愈更多的疾病,，真正解決全球變暖，”他說,。但也有許多人擔心,，人工智能公司能管理好這項影響深遠的技術(shù)嗎？這樣聽起來,，通用人工智能更像是一個存在一定實現(xiàn)可能的精靈,，而不是現(xiàn)實世界的前景。很少有人會對拯救生命和解決氣候變化說不,。但由于通用人工智能是一個還不存在的技術(shù),，所以你可以隨心所欲地說。“通用人工智能并不是一個科學術(shù)語,，”他說，“它代表了一個有用的門檻（閾值）,，一個參考點,。他繼續(xù)說：“這是一個時間點，人工智能會變得非常聰明,，聰明到如果一個人可以完成一些任務,，那么人工智能也可以做到。在這時候,，你可以說你有了通用人工智能,?！?nbsp; 目前，通用人工智能仍然是該領(lǐng)域最具爭議的想法之一,。很少有人認為它的發(fā)展是理所當然的,。許多研究人員認為，在我們看到伊利亞所提到的任何美妙的東西之前,，需要出現(xiàn)重大的概念突破,。有些人則認為我們永遠不會看到這個時刻。然而,，這一愿景從一開始就驅(qū)使著他,。“我一直受到這個想法的啟發(fā)和激勵,，”伊利亞說,，“當時它還不叫通用人工智能，當時就是想讓神經(jīng)網(wǎng)絡做任何事情,。盡管我并不總是相信它們可以做到,，但這是一座要去攀登的山?！?/span>他將神經(jīng)網(wǎng)絡和大腦的運作方式相提并論,。兩者都接受數(shù)據(jù)，從這些數(shù)據(jù)中聚合信號,，然后基于一些簡單的過程（神經(jīng)網(wǎng)絡中的數(shù)學,，大腦中的化學物質(zhì)和生物電）來傳播或不傳播它們。這是這個過程的極度精簡版本,，但本質(zhì)上就是這樣,。“如果你允許自己相信這一點，那么就會有很多有趣的引申冒出來,，”伊利亞說,，“如果你有一個非常大的人工神經(jīng)網(wǎng)絡，它應該能做很多事情,。特別是,，如果人類大腦可以做某事，那么大型人工神經(jīng)網(wǎng)絡也可以做類似的事情,?！?/span>2022 年 2 月，伊利亞發(fā)帖稱,，“或許如今的大型神經(jīng)網(wǎng)絡萌生了意識”,。說到這里，有必要介紹一下玻爾茲曼大腦的概念,，它指的是以 19 世紀物理學家路德維?！げ柶澛↙udwig Boltzmann）命名的量子力學思想實驗,。其中，宇宙中的隨機熱力學波動被想象成大腦突然出現(xiàn)和消失的原因,。“我覺得現(xiàn)在這些語言模型有點像玻爾茲曼大腦,，”伊利亞說，“你開始和它說話,，聊了一會兒,，然后你說完了，大腦就噗的一下消失了,?！?/span>那么，是不是說當神經(jīng)網(wǎng)絡處于活動狀態(tài)時,，會出現(xiàn)一些東西,？對此他表示：“我想可能是，我不確定,，但這是一種很難反駁的可能性,。誰也不知道到底發(fā)生了什么，對吧,？”在他眼中超級人工智能會更深入地看待事物,，會看到人類看不到的東西。他舉例稱：“我們已經(jīng)在 AlphaGo 中看到了一個非常狹隘的超級智能的例子,?！?016 年，DeepMind 的圍棋人工智能以 4：1 的成績擊敗了世界上最好的圍棋選手之一李世石,?！八氤隽巳绾我圆煌谌祟悢?shù)千年來集體發(fā)展的方式來下圍棋，（也就是說）它想出了新的想法,?！币晾麃喺f。他重點指出了 AlphaGo 走出的第 37 步,。在對陣李世石的第二場比賽中,，人工智能做出了一個讓評論員感到困惑的舉動。他們認為 是 AlphaGo 搞砸了,。事實上,，它下出了圍棋史上從未見過的關(guān)鍵一手?！跋胂笠幌逻@種洞察力,，這可以用到各種地方,，”他說,。正是這種思維導致伊利亞做出了他職業(yè)生涯中最大的轉(zhuǎn)變,。他與 OpenAI另一位科學家簡·雷克（Jan Leike）聯(lián)合成立一支“超級對齊（super alignment）”團隊。對齊（alignment）是人工智能領(lǐng)域的術(shù)語,，即讓人工智能模型只做你想讓它做的事,。超級對齊，則是 OpenAI 專門用于超級人工智能的對齊術(shù)語,。這支團隊的目標是,，提出一套故障安全程序來構(gòu)建和控制這項未來技術(shù)。據(jù)了解,，OpenAI 將把五分之一的龐大計算資源分配給這個問題,，并在四年內(nèi)解決這個問題。“現(xiàn)有的對齊方法并不適用于比人類更聰明的模型,，因為它們從根本上假設(shè)人類能夠可靠地評估人工智能系統(tǒng)正在做什么,，”雷克說，“而隨著人工智能系統(tǒng)變得越來越強大,，它們將承擔更艱巨的任務,。因此，這將使人類更難評估它們,。“而與伊利亞組建超級對齊團隊,，意味著我們已經(jīng)開始著手解決這些未來的對齊挑戰(zhàn)，”雷克表示,。盡管對于這一做法也收到一些外部同行的質(zhì)疑,。但是對于伊利亞來說，超級對齊是必須要開展的新計劃,。他認為,，此前沒有足夠多的、像他這樣的核心型機器學習研究人員來探索上述問題,。“我這樣做是我自己的興趣驅(qū)使,，”他說，“（同時）非常重要的是,，任何人建立的任何超級智能都不應該變成壞蛋,。”總的來說，二十六七歲博士畢業(yè)之后才踏入社會工作的伊利亞,，致力于解決可能出現(xiàn)的通用人工智能風險,；而 20 歲就從斯坦福大學退學創(chuàng)業(yè)的山姆更加善于商業(yè)投資和商業(yè)游說。一位是優(yōu)秀的學術(shù)研究人員，一位是成功的科技商業(yè)領(lǐng)袖,。他們的經(jīng)歷和對于自己的定位,，似乎從一開始就注定了今天的分歧。那么,，山姆接下來該何去何從,？據(jù) The Information 消息：“一位知情人士透露，剛被免職的 OpenAI CEO（Sam Altman）告訴投資者,，他計劃啟動一項新的人工智能風險投資,。這位人士說，前 OpenAI 董事會主席格雷格·布羅克曼預計將參與這項工作,，該項目仍在開發(fā)中,。這一行動的確切性質(zhì)目前還不清楚?！?/span>如果是這樣,，那么也和格雷格選擇主動離開 OpenAI、轉(zhuǎn)而和山姆共進退的做法保持一致,。另據(jù)悉,，山姆的出局已經(jīng)導致另外三位 OpenAI 高級研究人員的離職，他們分別是 OpenAI 研究部主任雅各布·帕喬奇（Jakub Pachocki）,、AI 風險團隊的亞歷山大·馬德里（Aleksander Madry）,、以及已經(jīng)在 OpenAI 工作 7 年之久的西蒙·西多爾（Szymon Sidor）。不過,，當?shù)貢r間 11 月 19 日 The Verge 報道稱：“知情人士透露,，該公司董事會正在與山姆·奧特曼商討，是否將重返公司擔任 CEO,。其中一名知情人士說奧特曼星期五在沒有通知的情況下,，突然被董事會解雇，他對回來的態(tài)度'模棱兩可’,?！?/span>https://www./2023/10/26/1082398/exclusive-ilya-sutskever-openais-chief-scientist-on-his-hopes-and-fears-for-the-future-of-ai/https://www./2023/11/18/23967199/breaking-openai-board-in-discussions-with-sam-altman-to-return-as-ceohttps://twitter.com/gdb/status/1725736242137182594https:///business/philosophical-differences-emerge-within-openai/238435/#gsc.tab=0https://www./3-open-ai-researchers-resign-sam-altman-dismissal-ceo-2023-11https://www./articles/ Three-senior-openai-researchers-resign-as-crisis-deepenshttps://www./articles/openai-co-Founder-altman-plans-new-venture
|
