·OpenAI首席執(zhí)行官山姆·奧特曼說,，“我認(rèn)為,，如果這項(xiàng)技術(shù)出了問題，它可能會(huì)大錯(cuò)特錯(cuò)”,，“鑒于我們明年將面臨選舉,，而這些模型正在變得更好，我認(rèn)為這是一個(gè)值得關(guān)注的重要領(lǐng)域”,。

·參議員迪克·杜賓表示,，大公司來到參議院“懇求我們對(duì)其進(jìn)行監(jiān)管”是很了不起的。

當(dāng)?shù)貢r(shí)間5月16日,，OpenAI首席執(zhí)行官山姆·奧特曼在美國國會(huì)作證。

當(dāng)?shù)貢r(shí)間5月16日,，OpenAI首席執(zhí)行官山姆·奧特曼在美國參議院就人工智能技術(shù)的潛在危險(xiǎn)作證,，敦促立法者對(duì)開發(fā)GPT-4等先進(jìn)人工智能系統(tǒng)的組織實(shí)施許可要求和其他法規(guī)。

“我們認(rèn)為政府的監(jiān)管干預(yù)對(duì)于減輕日益強(qiáng)大的模型的風(fēng)險(xiǎn)至關(guān)重要,?！眾W特曼說，“例如,，對(duì)開發(fā)和發(fā)布超過能力門檻的AI模型,，美國政府可以考慮把實(shí)施許可和測(cè)試要求結(jié)合起來?！?/p>

出庭作證的還有IBM的首席隱私和信任官克里斯蒂娜·蒙哥馬利（Christina Montgomery）和著名AI專家加里·馬庫斯（Gary Marcus）,。馬庫斯指出，美國政府可能需要一個(gè)擁有技術(shù)專長的“內(nèi)閣級(jí)組織”專門監(jiān)督人工智能,。

近年來,，以科技高管為主題的國會(huì)聽證會(huì)的基調(diào)一般會(huì)用“敵對(duì)”來形容，F(xiàn)acebook創(chuàng)始人馬克·扎克伯格,、亞馬遜創(chuàng)始人杰夫·貝索斯等科技名人都曾在國會(huì)山被對(duì)其公司不滿的立法者訓(xùn)斥,。但奧特曼在聽證會(huì)上受到了議員的表揚(yáng)。

參議員使用ChatGPT發(fā)表開場(chǎng)白

奧特曼是在參議院司法委員會(huì)隱私,、技術(shù)和法律小組委員會(huì)舉行的聽證會(huì)上發(fā)表上述講話的,。

小組委員會(huì)主席、參議員理查德·布魯門撒爾（Richard Blumenthal,，康涅狄格州民主黨）在聽證會(huì)上發(fā)表開場(chǎng)白,，“我們經(jīng)常看到技術(shù)超出監(jiān)管時(shí)會(huì)發(fā)生什么,?！彼f，“對(duì)個(gè)人數(shù)據(jù)的無節(jié)制利用,、虛假信息的泛濫和社會(huì)不平等的加深,。”

開場(chǎng)白的文字由ChatGPT撰寫,，語音應(yīng)用程序根據(jù)布魯門撒爾在參議院的演講訓(xùn)練生成音頻,。

這時(shí)候，所有目光都轉(zhuǎn)向了坐在證人席上準(zhǔn)備提供證詞的奧特曼,。布魯門撒爾發(fā)出笑聲,，說人工智能能夠制作出如此逼真的音頻片段真是太神奇了。他接著用自己真正的聲音閱讀了開場(chǎng)白的其余部分,。

布魯門撒爾支持成立一個(gè)機(jī)構(gòu)來監(jiān)管AI的想法,，但他警告說，如果新機(jī)構(gòu)得不到足夠的資金和科學(xué)專業(yè)知識(shí),，科技公司“將繞著他們轉(zhuǎn)圈子”,。他指出，美國公司通常反對(duì)任何新規(guī)定,，但就人工智能制造商而言,，“我感覺到這里有一種真正的參與意愿?！?/p>

據(jù)參加前一天晚宴和會(huì)議的人士透露,，奧特曼在當(dāng)?shù)貢r(shí)間5月15日晚與數(shù)十名眾議院議員共進(jìn)晚餐，并在聽證會(huì)前與多位參議員私下會(huì)面,。

幾位立法者對(duì)OpenAI和IBM愿意面對(duì)新監(jiān)管發(fā)表了評(píng)論,，伊利諾伊州民主黨人迪克·杜賓（Dick Durbin）表示，大公司來到參議院“懇求我們對(duì)其進(jìn)行監(jiān)管”是很了不起的,。新澤西州民主黨人科里·布克（Cory Booker）甚至多次直接稱呼奧特曼的名字山姆,。

00:29

在聽證會(huì)上,，被問是否賺了很多錢時(shí),，山姆·奧特曼表示，“沒有任何OpenAI股權(quán),，做這件事只因熱愛,?！?00:29)

奧特曼建議國會(huì)成立新機(jī)構(gòu)，定義能力門檻

雖然奧特曼強(qiáng)調(diào)人工智能的好處,，但他在聽證會(huì)上表示,，OpenAI“非常擔(dān)心”選舉受到人工智能生成的內(nèi)容的影響。他擔(dān)心人工智能行業(yè)可能“對(duì)世界造成重大傷害”,?！拔艺J(rèn)為，如果這項(xiàng)技術(shù)出了問題,，它可能會(huì)大錯(cuò)特錯(cuò),，我們希望對(duì)此直言不諱?！?“我們希望與政府合作,，防止這種情況發(fā)生?！?/p>

“鑒于我們明年將面臨選舉,，而這些模型正在變得更好，我認(rèn)為這是一個(gè)值得關(guān)注的重要領(lǐng)域……我確實(shí)認(rèn)為在這個(gè)話題上進(jìn)行一些監(jiān)管是非常明智的,?！彼f。

奧特曼建議國會(huì)成立一個(gè)新機(jī)構(gòu),，為“超過一定規(guī)模的能力”的人工智能技術(shù)頒發(fā)許可證,，在向公眾發(fā)布AI系統(tǒng)之前，應(yīng)該由可以判斷該模型是否符合這些規(guī)定的專家進(jìn)行獨(dú)立審計(jì),。

不過,，奧特曼認(rèn)為繁瑣的要求不應(yīng)該適用于模型遠(yuǎn)不如OpenAI先進(jìn)的公司和研究人員。他建議國會(huì)“定義能力門檻”,，并將能夠執(zhí)行某些功能的人工智能模型納入嚴(yán)格的許可制度,。

例如，奧特曼說,，“可以說服,、操縱、影響一個(gè)人的行為,、信仰”或“幫助創(chuàng)造新型生物制劑”的人工智能模型可能需要獲得許可,。為任何超過特定計(jì)算能力閾值的系統(tǒng)要求許可會(huì)更簡(jiǎn)單，但他更愿意根據(jù)特定功能劃定監(jiān)管界限,。

OpenAI由非營利和營利實(shí)體組成,。奧特曼表示，OpenAI的GPT-4模型“比具有類似功能的任何其他模型更有可能做出有益和真實(shí)的響應(yīng)并拒絕有害請(qǐng)求”,，部分原因是廣泛的預(yù)發(fā)布測(cè)試和審計(jì)：在發(fā)布任何新系統(tǒng)之前,，OpenAI會(huì)進(jìn)行廣泛的測(cè)試,，聘請(qǐng)外部專家進(jìn)行詳細(xì)審查和獨(dú)立審計(jì)，改進(jìn)模型的行為,，并實(shí)施強(qiáng)大的安全和監(jiān)控系統(tǒng),。在發(fā)布最新模型GPT-4之前，他們花了六個(gè)月時(shí)間進(jìn)行廣泛的評(píng)估,、外部紅隊(duì)測(cè)試和危險(xiǎn)能力的測(cè)試。

奧特曼還表示,，人們應(yīng)該能夠選擇不將他們的個(gè)人數(shù)據(jù)用于訓(xùn)練AI模型,。OpenAI上個(gè)月宣布，ChatGPT用戶現(xiàn)在可以關(guān)閉聊天記錄,，以防止對(duì)話被用于訓(xùn)練AI模型,。

IBM提出透明度要求，建議參考?xì)W洲

蒙哥馬利在聽證會(huì)上表示,，IBM敦促國會(huì)對(duì)人工智能采取精確的監(jiān)管方法,。“從本質(zhì)上講,，AI只是一種工具,，工具可以服務(wù)于不同的目的?！彼f,，“這意味著建立規(guī)則來管理人工智能在特定用例中的部署，而不是監(jiān)管技術(shù)本身,?！?/p>

蒙哥馬利呼吁擬議類似歐洲的法規(guī)，其中概述了不同級(jí)別的風(fēng)險(xiǎn),。她提出,，國會(huì)應(yīng)該明確定義人工智能的風(fēng)險(xiǎn)，并“針對(duì)不同的風(fēng)險(xiǎn)制定不同的規(guī)則”,，最嚴(yán)格的規(guī)則“適用于對(duì)人類和社會(huì)風(fēng)險(xiǎn)最大的用例”,。

蒙哥馬利提出了透明度要求，稱消費(fèi)者應(yīng)該知道他們何時(shí)與人工智能互動(dòng),?！叭魏蔚胤降娜硕疾粦?yīng)該被誘騙與人工智能系統(tǒng)互動(dòng)……人工智能時(shí)代不能成為另一個(gè)快速行動(dòng)和破壞事物的時(shí)代?！彼f,。

蒙哥馬利還表示，美國應(yīng)該迅速讓公司對(duì)部署“在選舉等方面?zhèn)鞑ュe(cuò)誤信息”的人工智能負(fù)責(zé),。

馬庫斯擔(dān)心新聞質(zhì)量下降,，批評(píng)微軟

參議員們還聽取了加里·馬庫斯的說法,，馬庫斯是一位創(chuàng)辦了兩家人工智能和機(jī)器學(xué)習(xí)公司的作家，也是紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)名譽(yù)教授,。他在聽證會(huì)上說,，人工智能可以制造具有說服力的謊言并提供有害的醫(yī)療建議。他批評(píng)微軟在“悉尼”聊天機(jī)器人（新必應(yīng)聊天機(jī)器人的內(nèi)部名稱）表現(xiàn)出令人震驚的行為后沒有立即將其撤下,。

AI大牛加里·馬庫斯（左）與山姆·奧特曼在作證前宣誓。

“悉尼顯然有問題......我會(huì)暫時(shí)將其從市場(chǎng)上撤回,，但他們沒有,。”馬庫斯說,?！斑@給我敲響了警鐘，提醒我即使有像OpenAI這樣的非營利性公司……其他人也可以收購這些公司并隨心所欲,。也許現(xiàn)在我們有一組穩(wěn)定的參與者,，但這些系統(tǒng)在塑造我們的觀點(diǎn)和生活方面所擁有的力量確實(shí)非常重要，而且這甚至沒有考慮到有人可能故意將它們重新用于各種不良目的的風(fēng)險(xiǎn),?！?/p>

人工智能生成的新聞文章是馬庫斯討論的另一個(gè)問題。他說,，隨著越來越多的新聞?dòng)扇斯ぶ悄茏珜?，“整個(gè)新聞市場(chǎng)的質(zhì)量將會(huì)下降”。

馬庫斯說,，美國政府可能需要一個(gè)擁有技術(shù)專長的“內(nèi)閣級(jí)組織”,，其全職工作是監(jiān)督人工智能。他說,，在廣泛部署人工智能系統(tǒng)之前,，應(yīng)該進(jìn)行類似食品和藥物管理局（FDA）的安全審查，并在產(chǎn)品發(fā)布后再進(jìn)行審查,。

但馬庫斯也警告參議員們要提防濫用監(jiān)管的可能性,。 “如果我們讓監(jiān)管看起來好像我們?cè)谧鍪裁矗袷蔷G色外衣（greenwashing,，指機(jī)構(gòu)為樹立對(duì)環(huán)境負(fù)責(zé)的公共形象而散布虛假信息）,，實(shí)際上什么都沒有發(fā)生，我們就會(huì)把小玩家拒之門外,，因?yàn)槲覀兘o他們施加了太多的負(fù)擔(dān),，以至于只有大玩家才能做到。”他說,。

“阻止人工智能發(fā)展沒有意義”

一些人工智能評(píng)論家呼吁暫停開發(fā),，有非營利性人工智能研究小組指責(zé)OpenAI在沒有適當(dāng)考慮其風(fēng)險(xiǎn)的情況下發(fā)布GPT-4。奧特曼表示,，迭代發(fā)布更好,，因?yàn)椤拔艺J(rèn)為，秘密構(gòu)建一個(gè)超級(jí)強(qiáng)大的AI系統(tǒng),，然后一次性將它投放到世界上,，并不會(huì)有好結(jié)果?！?/p>

奧特曼說：“我們戰(zhàn)略的很大一部分是在這些系統(tǒng)相對(duì)薄弱且非常不完善的情況下找到讓人們體驗(yàn)它們的方法……并弄清楚我們需要做些什么才能讓它更安全,、更好?！?/p>

參議員布魯門撒爾說,，試圖阻止人工智能的發(fā)展是沒有意義的,，“世界不會(huì)等待,，全球科學(xué)界的其他成員也不會(huì)停下來。我們的對(duì)手正在前進(jìn),，把頭埋在沙子里不是答案,。”

布魯門撒爾表示,，“人工智能公司應(yīng)該被要求測(cè)試他們的系統(tǒng),，披露已知風(fēng)險(xiǎn)，并允許獨(dú)立研究人員訪問,?！薄霸谀承┑胤剑斯ぶ悄艿娘L(fēng)險(xiǎn)如此之大,，以至于我們應(yīng)該施加限制甚至禁止它們的使用,，尤其是在涉及商業(yè)性侵犯隱私以謀取利益和影響人們生計(jì)的決策時(shí)?！?/p>

參議員喬?！せ衾↗osh Hawley）建議，人工智能的危害可以通過集體訴訟和其他訴訟來處理,，國會(huì)可以“建立聯(lián)邦訴訟權(quán),，允許受到這項(xiàng)技術(shù)傷害的個(gè)人”起訴公司。

奧特曼指出,，人們已經(jīng)可以就技術(shù)造成的危害起訴OpenAI,。馬庫斯說，訴訟是不夠的，可能需要十年或更長時(shí)間,，霍利的建議“肯定會(huì)讓很多律師變得富有,，但我認(rèn)為它太慢了，無法影響我們關(guān)心的很多事情,?！?/p>

聽證會(huì)上還討論了人工智能對(duì)工作的影響。 IBM首席執(zhí)行官阿溫德·克里希納（Arvind Krishna）最近透露,，計(jì)劃暫停招聘約7800個(gè)可能被人工智能系統(tǒng)取代的工作崗位。蒙哥馬利表示,，“將創(chuàng)造新的工作崗位,，更多的工作崗位將被轉(zhuǎn)變,，一些工作崗位將被轉(zhuǎn)移,?！眾W特曼告訴參議員們,，“GPT-4將完全自動(dòng)化一些工作，并將創(chuàng)造我們認(rèn)為會(huì)更好的新工作,?！?/p>

聽證會(huì)上的一些立法者仍然表現(xiàn)出華盛頓和硅谷之間在技術(shù)知識(shí)方面的持續(xù)差距,。南卡羅來納州共和黨人林賽·格雷厄姆（Lindsey Graham）反復(fù)詢問證人,，針對(duì)Facebook和谷歌等在線平臺(tái)的言論責(zé)任保護(hù)是否也適用于人工智能。奧特曼表現(xiàn)鎮(zhèn)定,，多次嘗試區(qū)分人工智能和和社交媒體。 “我們需要共同努力尋找一種全新的方法,?！彼f,。