肯尼斯·斯坦利（Kenneth Stanley）不是咨詢從業(yè)者,，但近幾個月,，他的郵箱堆滿咨詢郵件。困惑的人們在郵件里問他：“這一切是什么意思,？”

“這一切”,，指的是ChatGPT的出現(xiàn)，及其引發(fā)的AI熱潮,。自去年11月發(fā)布以來,，全世界的人都在使用它、談?wù)撍?，試圖理解它代表的威脅和機會,。

研發(fā)出ChatGPT的公司OpenAI同樣成為熱門話題?？夏崴乖谀抢锕ぷ?。已經(jīng)錯過ChatGPT、擔心再次錯過新機會的投資人聯(lián)系到他,，想了解他在做什么,，因為“任何與人工智能、與OpenAI有關(guān)系的人,，都可能在做重要的事情”,。

OpenAI另一位前員工喬爾·雷曼（Joel Lehman）則接到了世界各地獵頭的詢問，包括中國,。他與肯尼斯于2020年入職OpenAI,，并在ChatGPT發(fā)布前幾個月離開。在OpenAI,，他們共同領(lǐng)導(dǎo)的開放性（Open-Endedness）團隊，致力于讓算法在沒有預(yù)定目標的情況下自我學習,、創(chuàng)新,。

此前，他們曾在大學,、AI初創(chuàng)公司幾何智能（Geometric Intelligence）,、優(yōu)步（Uber）AI實驗室工作,。2022年離開OpenAI后，肯尼斯創(chuàng)辦了一家名為Maven的公司,，建立開放式,、偶然性社交網(wǎng)絡(luò)，而喬爾在AI獨角獸Stability旗下的Carper領(lǐng)導(dǎo)開放性研究團隊,。         

他們已在人工智能行業(yè)工作多年,，但如今技術(shù)進展之快、論文數(shù)量之多,，有時也讓他們感到難以跟上,。

此刻的中國人工智能行業(yè)面對相似的焦慮。業(yè)界,、學界機構(gòu)擔心錯失機會,，紛紛發(fā)布大模型。5月28日,，科技部直屬的中國科學技術(shù)信息研究所發(fā)布《中國人工智能大模型地圖研究報告》,，稱中國10億級參數(shù)規(guī)模以上大模型至少有79個。這個數(shù)字還在持續(xù)增加,，競爭越來越激烈,，參與者在浪潮中掙扎。多位中國AI創(chuàng)業(yè)者告訴《財經(jīng)》記者,，他們目前最關(guān)注的AI議題,，是商業(yè)模式、變現(xiàn)能力,。

肯尼斯和喬爾已經(jīng)走過為錢掙扎的階段,，他們給出了完全不同的回答?？夏崴棺顡牡氖?，AI會讓人遠離人性——機器越來越有趣，以至于人會花更多時間與機器交流,，而非與人交往,。長此以往，社會紐帶將會斷裂,，政府將會瓦解,。而他最初對人工智能產(chǎn)生興趣的原因，恰恰是他想通過了解“智能”來了解人性,。

喬爾則關(guān)心機器學習如何為個人,、社會的開放式成長做出積極貢獻。他說，現(xiàn)在的機器學習以一種非常狹隘的方式對待人類,，將滿足偏好視為促進人類繁榮的唯一途徑,，這催生了信息繭房，增加人與人的隔閡,。人類是豐富而復(fù)雜的,。“我們可能對某些事物上癮,，可能會做違背自身利益的事情,；我們擁有意志力，但有時經(jīng)過掙扎之后,，我們才會做自己真正想做的事,。”今年2月,，他發(fā)表論文《機器之愛（Machine Love）》,，探索機器從更豐富、復(fù)雜的維度去“愛”人的可能性,。

他們使用AI工具輔助工作,，但在一些事情上拒絕AI參與?？夏崴购秃⒆右黄鹜鏁r,，即便不借助任何電子設(shè)備，也能很開心,；喬爾很少在寫作中使用ChatGPT,，因為他“不想自動化真正關(guān)心的事情”。

創(chuàng)新是他們關(guān)心的另一件事,。2015年,，兩人合著的《為什么偉大不能被計劃》出版。他們在書中記錄多年AI研究過程中的發(fā)現(xiàn)：設(shè)定目標,，有時會成為阻礙,；遵循好奇心的指引，反而能夠解決問題,、實現(xiàn)創(chuàng)新,。該書中文版于今年出版，引發(fā)不少中國科技,、教育從業(yè)者的討論,。

今年5月、6月,，《財經(jīng)》記者分別與肯尼斯,、喬爾進行了一次書面交流,、一次視頻交流,。最關(guān)注的AI議題之外,，他們還談到OpenAI的工作體驗，美國AI行業(yè)的創(chuàng)投環(huán)境,，以及Transformer的缺陷,、AGI（通用人工智能）的到來等技術(shù)問題。      

以下是肯尼斯,、喬爾和《財經(jīng)》記者的對話,。對話經(jīng)過整理、刪減：

美國投資界的優(yōu)勢在于多樣性

《財經(jīng)》記者：在OpenAI工作是什么體驗,？

肯尼斯：很興奮,，我們能夠體驗全新的技術(shù)。我在學術(shù),、商業(yè)實驗室都工作過,，OpenAI和其他研究機構(gòu)的明顯差異是：其他機構(gòu)有不同的研究小組，小組成員們制定自己的議程,，在各自的領(lǐng)域發(fā)表論文,；OpenAI也有小組，但不同的小組目標一致：我們共有一個使命,，并一起朝著這個使命前進,。

喬爾：OpenAI是一個令人興奮的、快速發(fā)展的,、務(wù)實的,、嚴謹?shù)墓尽T工可以提前試用模型,，讓人感覺生活在未來,。另外，OpenAI有充足的算力資源,，我供職過的其他研究機構(gòu)都沒有這個條件,。我們擁有同一種愿景，而這個愿景與其他AI機構(gòu)或者多數(shù)人當時的想法都不同——OpenAI相信規(guī)?；?，相信使用更多的數(shù)據(jù)和算力，就能增強模型的能力,。

《財經(jīng)》記者：ChatGPT發(fā)布后,，你的工作、生活發(fā)生了什么變化,？

肯尼斯：我的郵箱突然接到了大量的咨詢請求,，好像全世界都對這個領(lǐng)域感興趣，甚至是恐懼——他們擔心自己被落下，因此尋找權(quán)威人士,，詢問這一切是什么意思,。還有很多投資人聯(lián)系我，想找到下一個風口,。ChatGPT的成功讓他們認為,，任何與人工智能、與OpenAI有關(guān)的人,，都可能在做重要的事情,。

關(guān)于GPT，在某種程度上,，它令人害怕,，因為它相當準確地捕捉到了人類認知的某些方面。這不僅是科學上的進步,，還具有哲學上的重要意義,，因為這些認知是將人類與宇宙中的其他一切區(qū)分開來的東西，而它們開始在機器中運轉(zhuǎn),。

喬爾：很多獵頭聯(lián)系我,，包括來自中國的。另外,，OpenAI如此頻繁地出現(xiàn)在新聞中,，以至于我的父母第一次如此了解我所在的公司。這種感覺很神奇,。     

《財經(jīng)》記者：為什么在2022年下半年,、ChatGPT發(fā)布前幾個月離開OpenAI？

喬爾：我沒有預(yù)料到ChatGPT會產(chǎn)生如此巨大的影響,。OpenAI是一個很棒的做研究的地方,，但它的研究總是往一個特定的方向推動；而我和肯尼斯作為研究者,，希望參與更基礎(chǔ),、更開放的（不限定方向的）探索性研究。正好那時,，我們都有其他合適的工作機會,，所以我們離開了。

《財經(jīng)》記者：有觀點認為,，中國的投資機構(gòu)過于重視被投公司的商業(yè)模式與盈利能力,，不像OpenAI的投資方那樣愿意冒險，所以扼制了創(chuàng)新,，導(dǎo)致中國沒有做出OpenAI和ChatGPT,。你怎么看,？

肯尼斯：將OpenAI的融資過程解讀為“投資人不應(yīng)該關(guān)心錢”，是錯誤的,。OpenAI的創(chuàng)始團隊是世界一流的人才,，所以投資人才愿意把賭注放在這里。

《財經(jīng)》記者：美國AI行業(yè)的創(chuàng)投環(huán)境是什么樣的,？

肯尼斯：在美國,，有足夠多的投資人注重理念和愿景、愿意冒險,，也有人只看利潤。同一個人的想法也會改變,，例如,，我投資了一個目標不明確的公司，失敗,、賠錢了,，那么下一次我就會更關(guān)心商業(yè)模式和利潤。我認為,，美國投資界的優(yōu)勢,，就在于觀點的多樣性。這是一個健康的環(huán)境,。

我對中國的投資界沒有深入了解,，但多樣性對任何地方都是有益的。硅谷的風險投資產(chǎn)業(yè)已經(jīng)非常成熟,，而在中國風投這樣相對不成熟的環(huán)境里——我沒有貶低的意思,，因為幾乎沒有什么地方會像硅谷那樣成熟——我可以想象大家非常關(guān)注利潤和商業(yè)化。這樣也能投出好公司,，但它們不會像OpenAI那樣具有革命性,。

另外，決定投資方向的不僅僅是投資人,，還有他們背后的各類機構(gòu),、基金等。提供科學研究資金的國家機構(gòu)應(yīng)該不怕虧損,，因為科學研究總是充滿風險的,；如果沒有任何虧損，那意味著他們實際上沒有在做研究,。但我發(fā)現(xiàn),，這些機構(gòu)反而更保守。這有點諷刺,，他們會問：“研究目標是什么,？”然后評估目標的可行性,，再決定是否給錢。反倒是市場化的投資人會有不同的觀點,。他們把投資視為一個組合,，不在意個別的失敗，總體的上漲能夠彌補下跌就行,。他們有時更愿意說：“我不知道這有什么意義,，但它聽起來很酷，我要投,?！?nbsp;        

Transformer有缺陷，AGI還很遙遠

《財經(jīng)》記者：Transformer之后,，會有新的架構(gòu)出現(xiàn)嗎,？（注：Transformer是Google 在2017 年提出的一種自然語言處理模型，也是今天AI大模型的基礎(chǔ)架構(gòu),。）

肯尼斯：我不相信Transformer就是我們到達的最終架構(gòu),，這種觀點從研究角度看，似乎過于樂觀了,。但我不能排除這種可能性,。也許可以不改變架構(gòu)，只改變訓練方法,、提示詞（prompt）的長度等其他方面,。

提示詞中的文本是有順序的，神經(jīng)網(wǎng)絡(luò)確實看到了這個順序,，只是目前能輸入的提示詞太短了,，所以Transformer無法按照時間順序?qū)W習。也許將來會有一些突破,，讓提示詞能夠長到囊括整個人類歷史,，然后模型就可以在提示詞中學習。這是一個非常奇怪的想法,，但如果可以實現(xiàn),，也許架構(gòu)將保持不變。

另一個因素是硬件,，科學家們會想到非常有趣的新架構(gòu),，但當前的硬件可能無法承載，這就限制了我們嘗試某些方案的空間,。

喬爾：Transformer確實非常驚人,，可以完成許多任務(wù)，但從歷史經(jīng)驗看,，會出現(xiàn)超越它的方法,。

目前Transformer的一個基本缺陷是沒有“循環(huán)（recurrence）”能力,。面對問題時，人類會回顧經(jīng)驗進行學習,，過去的某個心理狀態(tài)能夠無限次地反復(fù)再現(xiàn),，因此你想反思某件事情多久，就可以反思多久,。Transformer也擁有對過去的顯式記憶,，但這種記憶僅持續(xù)特定數(shù)量的token（注：AI處理文本的數(shù)據(jù)單位）。這種范式非常強大,，足以使模型具備從輸入的上下文信息中學習的能力,。但它仍不能像人類那樣，將記憶永久保存下來,。

我想強調(diào),，我并不是說機器學習模型必須像人類大腦一樣運作，但目前的研究主流路徑是這樣,。         

《財經(jīng)》記者：有人認為，大模型并不具備像人類一樣的思考能力,，它只是看起來在思考,。

喬爾：這個觀點很有趣，但從技術(shù)角度看,，我不認同,。Transformer在沒有幫助的情況下進行算術(shù)運算的能力非常不像人類，它會犯很基礎(chǔ)的錯誤,；但是當你與它交流那些它似乎沒接觸過的復(fù)雜話題（比如試圖將22種奇特的哲學思想結(jié)合在一起）,，它可以給出相當令人印象深刻的回應(yīng)。因此,，我認為實際情況可能處于中間位置,。

《財經(jīng)》記者：如何定義AGI（通用人工智能）？Sam Altman（OpenAI創(chuàng)始人）在中國的演講中提到,，十年內(nèi)會有非常強大的人工智能系統(tǒng)出現(xiàn),，我們需要從現(xiàn)在開始做應(yīng)對的準備，你怎么看,？

肯尼斯: 我不太關(guān)心 AGI 的精確定義,。等我們看到它時，自然會知道,。我感覺AGI這個詞分散了我們的注意力,。真正的問題不在于是否到達AGI，而在于,，我們在十年內(nèi)取得的成果,，是否會對社會產(chǎn)生重大影響,；如果是的話，那么無論它被稱為AGI還是其他名字,，我們都要做好準備,。        

喬爾：我認同?？茖W發(fā)展進程總是非線性的,，我不知道AGI什么時候會到來，可能很快,，也可能很慢,。AI很快就會在一些任務(wù)上超越人類，某些方面的AGI可能很快就會到來,。

這會帶來兩個問題,。“智能”是定義人類的基礎(chǔ),，當一個比人類還聰明的東西出現(xiàn)時,，人類就處于危險之中。另一件有點恐怖的事情是,，很多人從工作中獲取意義,，當AI將工作自動化，我們就需要將人生意義從工作轉(zhuǎn)向?qū)ふ矣鋹?、做自己喜歡的事,。這很好，但轉(zhuǎn)變過程會非常艱難,。目前的證據(jù)顯示,，在美國，人們即使有社會保障,，也會因失業(yè)沮喪,，甚至會濫用藥物。面對這種可能的未來,，我們還沒有做好準備,。

《財經(jīng)》記者：AGI什么時候會實現(xiàn)？ 

肯尼斯：關(guān)于這個問題,，有很多不同觀點,。但現(xiàn)實是，沒人能知道,。智能領(lǐng)域還存在一些尚無明確解法的缺口,。

現(xiàn)在比較主流的通往AGI的方法是，基于Transformer,，繼續(xù)增加數(shù)據(jù)和算力,。因為過去這種規(guī)?；椒ê芎玫靥钛a了先前模型的漏洞，例如從GPT-2到GPT-3,、再到GPT-4的升級,。基于此,，一些人認為我們正處于AGI的臨界點——只需要進一步規(guī)?；湍芙鉀Q問題,。

但有些東西是無法通過規(guī)?；纳频模热鐒?chuàng)新性,。目前的模型無法像人類發(fā)明搖滾樂那樣,，發(fā)明一種新的范式。這是一個嚴重的不足,，因為文明的本質(zhì)就是創(chuàng)新,。

存在這個缺陷的原因是，Transformer是通過數(shù)據(jù)學習,，而“創(chuàng)新性”之類的東西并不在數(shù)據(jù)里,。目前，被輸入模型的數(shù)據(jù)不是按時間順序從頭到尾排列的,，而是一整個單獨的數(shù)據(jù)塊。這導(dǎo)致模型缺少時間概念,，而創(chuàng)新是與時間順序密切相關(guān)的,。

我們?nèi)祟愂冀K身處某個特定的時間點，這個點之前發(fā)生了什么,、還沒有發(fā)生什么都是默認的,，所以我們能知道什么是新的、前沿的,；但模型無法判斷時間點,，它將所有這些東西都視為一團巨大的混合體：它會看到關(guān)于汽車的數(shù)據(jù)，關(guān)于太空飛船的數(shù)據(jù),，關(guān)于大型語言模型的數(shù)據(jù),，但它們都是同時存在的，沒有先后之分,。因此,，模型無法判斷什么是前沿的。

另一個例子是幻覺問題（注：“幻覺”即AI生成的虛假或錯誤信息）,，即語言模型怎么知道自己知道什么,、不知道什么,？“知道自己記得什么”不是一個語言過程。如果我問你,，你三周前吃了什么,？你會說不記得了。但你怎么知道自己不記得,？這個過程無法用言語表達,，你不能說，我檢查了這個,，然后檢查了那個,，所以我知道我不記得了。這更像是一種隱含的,、與生俱來的過程,，并不涉及語言；如果沒有語言,，它就不存在于數(shù)據(jù)中,，模型也就無法從數(shù)據(jù)中獲得這個概念。

現(xiàn)在,，由于RLHF（Reinforcement Learning from Human Feedback,，從人類反饋中進行強化學習，即由人類來訓練模型,，模型做得好就獎勵,，做得不好就懲罰）的運用，這些不足也許可以修正,。但我認為,，只有在模型真正理解它應(yīng)該知道什么、不應(yīng)該知道什么的情況下,，這種方法才能有效,；而只有這些知識隱含在數(shù)據(jù)中時，它才能真正理解,。但目前看來,，數(shù)據(jù)中似乎不存在這類知識。例如,，要讓模型學會誠實,，我們可以在它不誠實時懲罰它，然后它會變得誠實,。但這并不意味著它理解了誠實的重要性,。

這些問題很難通過規(guī)模化來解決，有解決辦法,，但需要更多的復(fù)雜性,，需要新的洞察和技術(shù)突破，不會輕易實現(xiàn),。所以AGI仍然很遙遠,。

愛，滅亡和人工智能

《財經(jīng)》記者：如今,，很多業(yè)界人士在警告AI的威脅,，強調(diào)對AI進行控制和監(jiān)管。而你研究的AI開放性,，是讓AI在沒有目標的情況下,，產(chǎn)生更多新的、讓人意想不到的結(jié)果,，是關(guān)于放松控制的,。如何看待其中的矛盾？

肯尼斯：好問題,。AI作為一門科學,，本身就是在尋求進一步的發(fā)現(xiàn)和創(chuàng)新。我們應(yīng)該接受對開放性的研究,，依靠它找到平衡——既允許持續(xù)發(fā)現(xiàn),，又受到足夠的限制。

喬爾：對開放性的研究在一定程度上很重要,，因為它使我們能夠科學地解決貫穿整個技術(shù)史的問題：我們?nèi)绾螐拈_放性過程中獲得最大收益,，同時降低風險？同樣的開放式科學過程為我們提供了治愈疾病的疫苗和環(huán)球飛行的飛機,，也為我們提供了核武器,。創(chuàng)造力和控制力之間的張力很深，需要大量思考和研究,。

《財經(jīng)》記者：你現(xiàn)在已經(jīng)是AI-native的生活狀態(tài)了嗎？   

肯尼斯：不是,。我確實在工作中使用AI,，但生活中很多事情，比如和我的孩子一起玩,，即使沒有任何電子設(shè)備,，也會很棒。我適度使用AI,，生活就是生活,。

喬爾：我用 ChatGPT（帶有 GPT-4）理解新的知識領(lǐng)域，用 Copilot寫代碼。

但是到目前為止,，我還沒有在寫作中使用ChatGPT（比如我沒有用它來回答你的這些問題）,。部分原因是它還沒有融入我的工作流程。比如,，我會用特定的文本編輯器,，把GPT集成進去很麻煩。而且,，我喜歡寫作的藝術(shù)性質(zhì),。也許在未來，它會變得足夠容易,，能夠融入工作流程,；但我也有些抵觸，因為有時候,，你不想自動化你真正關(guān)心的事情,。

《財經(jīng)》記者：當下，你最關(guān)心的一個關(guān)于AI的議題是什么,？

肯尼斯：我擔心我們與人性越來越疏遠,。我8歲時對AI產(chǎn)生興趣。它最吸引我的一點是,，它能讓我更好地理解人,，與人產(chǎn)生更緊密的聯(lián)系。這可能很難理解,，畢竟我們這些人看起來只是成天和機器打交道,，對人類沒有興趣。但理解“智能”的過程,，其實就是在理解人性的本質(zhì),。心理學也在理解智能，可它只研究運作原理,，不研究構(gòu)建方法,；而我一直覺得，如果我不能構(gòu)建某樣東西,，我就無法真正理解它,。

用機器取代人的情況令我困惑。這就是我所說的與人性的疏遠——機器變得足夠豐富和有趣,，以至于你會抽出時間與機器交往,，而不是與人交往。我們看到的圖像,、聽到的音樂,、讀到的故事,，曾經(jīng)是人類豐富想象力的產(chǎn)物，如今卻越來越多地被機器生產(chǎn),。

我受到震動的具體時刻,，是第一次看到DELL-E（注：OpenAI的圖像生成產(chǎn)品）時。突然間,，我意識到藝術(shù)可以不是自我表達,，它只是藝術(shù)。而我一直認為,，藝術(shù)的可愛之處在于呈現(xiàn)人性,。那時，我的孩子大約7歲,。他喜歡畫畫,，而這個機器生產(chǎn)的畫作質(zhì)量遠超他。這讓我對未來非常困惑——這個冰冷的東西沒有真正的體驗,，卻會使人們無法欣賞我孩子的自我表達,。我不喜歡那樣的世界。

像DELL-E這樣的技術(shù)也可以幫助人類自我表達,，但如果走向錯誤的方向,，我們將沉溺于沒有人性的東西，停止與人類互動,，那時,，社會紐帶會破裂，政府也會瓦解,。擺在我們面前的一個巨大挑戰(zhàn)是：如何讓人工智能支持有意義的人際聯(lián)系,，而非鼓勵隔離與孤獨。         

喬爾：目前我最關(guān)心語言模型部署到世界的速度,。我擔心制度（如法律,、教育、經(jīng)濟,、新聞媒體和政治制度）更新緩慢,，適應(yīng)速度跟不上語言模型的發(fā)展速度。

在美國,，社交媒體,、推薦引擎等系統(tǒng)占用人們大量時間精力。這些系統(tǒng)擁有將我們聯(lián)系起來的能力,，但它們往往只追求用戶參與度、停留時長,，而非幫助我們改善生活,。

似乎我們的所有制度都在這種方式下變成賭博。比如，在美國,，為了贏得選舉,，一些政治候選人不再進行誠實的辯論，而是針對受眾心理特點創(chuàng)建廣告,，激起他們對其他政黨的仇恨,。機器學習以許多不同的方式參與其中，像是個性化推薦與信息繭房,。這也是我將研究方向轉(zhuǎn)到機器學習,、哲學交叉領(lǐng)域的主要原因之一。我希望我們能以更有益的方式使用機器學習,。

《財經(jīng)》記者：有辦法避免這些情況進一步惡化嗎,？

肯尼斯：一種方法是，鼓勵開發(fā)增強人類能力的AI工具——將人隨口唱的曲子制作成完整作品,，促進高質(zhì)量的人際互動,，諸如此類。但人類的本性難以控制,。如果與AI交流很愉快,，人們就會這樣做。這有點像吃糖,，甜味讓人愉快,，但你必須努力控制，不能過度,。

我們也需要國際合作,，來建立審查與法律框架，還要確定具體責任人,。這也很難,，涉及經(jīng)濟問題與國際競爭——如果能夠?qū)崿F(xiàn)AI的獨立發(fā)展，一個國家可以徹底改革全球經(jīng)濟,，獲得巨大優(yōu)勢,。因此，不合作是非常有誘惑力的,。         

《財經(jīng)》記者：很多中國AI創(chuàng)業(yè)者為商業(yè)模式,、融資苦惱，他們想聚集資源,，做出中國的OpenAI,。你不關(guān)心錢的問題嗎？

肯尼斯：如果我在一個急需錢的創(chuàng)業(yè)時期,，我也會重視融資,；但我似乎已經(jīng)過了這個階段——我現(xiàn)在認為,，只要我做正確的事情，就能拿到融資,。所以我更關(guān)注前景,，擔心沒有證據(jù)來支持我的想法，而不是錢,。

我個人覺得,，“成為下一個OpenAI” 不是一條明智的道路，因為通常,，你無法再次成為同樣的事物,。這個事物之所以出色，就是因為它是第一個這么做的,、獨一無二的?，F(xiàn)在，對話機器人領(lǐng)域的競爭非常激烈,，而我并不認為自己出色到能贏,，所以，我更傾向于思考,，有什么與OpenAI完全不同的新東西,？

喬爾：我喜歡錢。我很幸運,，曾在薪酬豐厚的實驗室里工作,。但現(xiàn)在，更多的錢并不能讓我感覺生活更有意義,。  

《財經(jīng)》記者：美國公眾在關(guān)心哪些關(guān)于AI的問題,？

肯尼斯：有各種各樣的擔憂，有人關(guān)注長期風險,，比如人類的滅絕威脅,；有人關(guān)注短期，比如就業(yè)問題,。還有人同時擔心所有問題,。有人對其他人感到憤怒，認為后者關(guān)心的不重要的問題吸引了大量關(guān)注,，讓人們無法聚焦到真正重要的事情上,。目前缺乏共識。我認為人們正在整理思緒,，確定哪些是當下最重要的,、值得我們花費大量時間精力應(yīng)對的問題。     

《財經(jīng)》記者：論文《機器之愛》的主要內(nèi)容是什么,？

喬爾：“人工智能”是將我們對“智能”的理解植入機器,，試圖理解智能的本質(zhì),；“人工生命”是將“生命”進行抽象，并在計算機中模擬生物進化,。我嘗試將同樣的思路應(yīng)用到“愛”，將“愛”這個概念進行抽象,，使得機器能夠表現(xiàn)出“愛”,。在實踐中，這意味著將機器學習的方法與研究愛的領(lǐng)域（如哲學,、靈性,、心理療法等）的方法結(jié)合。

機器學習的一個問題是,，它以一種非常狹隘的方式對待人類,，將滿足偏好視為促進人類繁榮的唯一方式。從這個視角看,，社交媒體重視用戶參與時長,，就變得可理解了：在機器學習的眼中，你是一個完全理性的個體,，因此你在社交媒體上花更多的時間,，就意味著它提供了有價值的東西。

但是,，人類是豐富而復(fù)雜的,。我們可能對某些事物上癮，可能會做違背自身利益的事情,；我們擁有意志力,，有時經(jīng)過掙扎之后，我們才會做自己真正想做的事,。

在這篇論文中,，我采用更豐富的人類行為模型（類似于馬斯洛需求層次理論），試圖利用語言模型,，讓機器尊重,、促進人類的發(fā)展，而不僅僅是給予狹隘的滿足,。

《財經(jīng)》記者：這聽起來與你如今最關(guān)心的AI議題緊密相關(guān),。你是在尋找解決問題的方法嗎？

喬爾：我不敢自稱有解決方案,，但我希望找到一種積極的前進方式,。我對人類、人類心理學,，以及人類領(lǐng)域與機器領(lǐng)域如何能夠有效結(jié)合非常感興趣,。技術(shù)是為了人類,，為了我們的利益、我們的繁榮而存在的,，但有時,，我們很容易忘記這一點。