雷鋒網(wǎng) AI 科技評(píng)論按：近期 Facebook 泄露海量用戶數(shù)據(jù)，而且這些數(shù)據(jù)還被利用來(lái)針對(duì)性地影響 Facebook 用戶的事情已經(jīng)鬧得沸沸揚(yáng)揚(yáng),。除了用戶隱私保護(hù)這一話題永遠(yuǎn)都不過(guò)時(shí)之外,，「用來(lái)分析用戶、影響用戶的 AI 算法應(yīng)當(dāng)擔(dān)負(fù)怎么樣的責(zé)任」這一話題也在 AI 圈中引起了討論,。Keras 作者,、谷歌大腦研究員 Fran?ois Chollet 也在 Twitter 上連發(fā)好幾十條推文,，表達(dá)了自己的觀點(diǎn)。這些推文基本構(gòu)成了一篇完整的文章,，而且觀點(diǎn)深刻發(fā)人深省,。雷鋒網(wǎng) AI 科技評(píng)論把這些推文編譯整理如下。

Facebook 已經(jīng)做了一系列「成功」的實(shí)驗(yàn)了,，其中的內(nèi)容包括通過(guò)控制信息流里展現(xiàn)的內(nèi)容控制用戶的情緒和想法,，以及預(yù)測(cè)用戶未來(lái)可能做出的決定，比如預(yù)測(cè)分手,、預(yù)測(cè)建立新戀情,。如果 AI 有什么重大的威脅需要引起足夠的擔(dān)心的話，那它已經(jīng)在這里顯現(xiàn)出來(lái)了：極為有效地,、可以大規(guī)模實(shí)行地控制普通大眾,。Facebook 非常努力地想要成為 AI 方面的領(lǐng)軍力量這件事，在看清它背后的全部隱喻之后,，開(kāi)始真正地讓人不寒而栗,。

對(duì) AI 研究社區(qū)里的各位，下次你們以任何形式參與到 Facebook 的 AI 生態(tài)系統(tǒng)中的時(shí)候,，你們都需要想想,，想想自己又幫 Facebook 增添了哪些能力。我們共同養(yǎng)大的這個(gè)怪獸,，最終會(huì)把我們每一個(gè)人都吃掉,。很抱歉我把這事說(shuō)得很夸張，但是這件事的威脅程度值得用這么嚴(yán)重的詞,。Facebook 在這件事上體現(xiàn)出的問(wèn)題,，并不僅僅是失去了隱私并被用于泛極端主義。在我看來(lái)更值得擔(dān)心的是,，它把個(gè)人的數(shù)字信息用作心理控制的手段,。

有兩個(gè)長(zhǎng)期趨勢(shì)正在改變整個(gè)世界的模樣：一，我們每個(gè)人的生活越來(lái)越去物質(zhì)化,，越來(lái)越多地由「在網(wǎng)絡(luò)上享用和創(chuàng)造內(nèi)容」構(gòu)成,，工作中、下班在家的時(shí)候都是這樣,；二,，AI 也在變得越來(lái)越聰明。在能夠影響我們?nèi)绾蜗硎軘?shù)字化內(nèi)容的算法層面上,，這兩個(gè)趨勢(shì)的作用開(kāi)始疊加,。決定我們能看到哪些文章、我們和誰(shuí)聯(lián)系、我們看到誰(shuí)的觀點(diǎn),、收到誰(shuí)的反饋等等無(wú)限多的事情的，變成了不透明的媒體算法,?；趶V大用戶這么多年積攢的數(shù)據(jù)，用算法處理我們能享用哪些數(shù)據(jù)的做法讓這些系統(tǒng)對(duì)我們的生活,、對(duì)我們要變成什么樣有了可見(jiàn)的控制力,。當(dāng)我們的生活越來(lái)越多地由數(shù)字生活組成的時(shí)候，我們?cè)谶@個(gè)世界的管理方 —— AI 算法 —— 面前,，就越發(fā)地脆弱,。

如果在某幾年的時(shí)間里，你看到什么新聞（不論真假）,、看到哪個(gè)政客的觀點(diǎn),，以及誰(shuí)能看到你的觀點(diǎn)，等等這一切都是由 Facebook 控制的,，那 Facebook 就對(duì)你的政治理念和你的世界觀有了相當(dāng)?shù)挠绊?。而這也并不是什么新聞，我們已經(jīng)知道了至少?gòu)?2013 年起 Facebook 就進(jìn)行了一系列實(shí)驗(yàn),，實(shí)驗(yàn)里他們可以通過(guò)關(guān)閉信息流里的某些內(nèi)容的方式,，控制不知情的被試用戶的心情和決定，以及預(yù)測(cè)這些用戶未來(lái)的行動(dòng),。

簡(jiǎn)短來(lái)說(shuō),，F(xiàn)acebook 可以同時(shí)測(cè)量所有關(guān)于我們的信息，同時(shí)還控制我們接觸到哪些信息,。當(dāng)你同時(shí)可以接觸到感知和行為的時(shí)候,，這就變成了一個(gè) AI 問(wèn)題。那么你就可以開(kāi)始為其中的人類行為建立一個(gè)優(yōu)化閉環(huán),。一個(gè)強(qiáng)化學(xué)習(xí)閉環(huán),。在這個(gè)閉環(huán)里可以觀察到目標(biāo)的當(dāng)前狀態(tài)，然后持續(xù)改進(jìn)給他們看到的信息,，一直改進(jìn)到他們開(kāi)始表現(xiàn)出你想看到的觀點(diǎn)和行為為止,。

AI 研究里有相當(dāng)一部分內(nèi)容（尤其是 Facebook 一直在投資的這一部分），就是關(guān)于如何開(kāi)發(fā)算法,，盡可能高效地解決這種優(yōu)化問(wèn)題的,，以便能達(dá)到這樣的閉環(huán)，對(duì)其中發(fā)生的現(xiàn)象有完全的掌控,。以 Facebook 這件事來(lái)講,，在閉環(huán)里被掌控的就是我們自己。

人類的大腦天生就對(duì)簡(jiǎn)單的社交控制沒(méi)有任何抵抗力，這讓達(dá)到這個(gè)目標(biāo)變得不知道有多么簡(jiǎn)單?，F(xiàn)在當(dāng)我思考這些問(wèn)題的時(shí)候,，我已經(jīng)不由得想起了一系列有效得令人后怕的心理攻擊手段。其中的有一些已經(jīng)在廣告業(yè)使用了很長(zhǎng)的時(shí)間,，比如正面/負(fù)面社交強(qiáng)化,，只不過(guò)執(zhí)行得很弱、沒(méi)有針對(duì)任何特定目標(biāo),。

如果從信息安全的角度考慮的話,，這已經(jīng)可以稱得上是「脆弱性」，可以通過(guò)已知的系統(tǒng)特性掌控整個(gè)系統(tǒng),。對(duì)于人類心智來(lái)說(shuō),，這些脆弱性永遠(yuǎn)都沒(méi)有辦法修復(fù)，人類就是這樣一種生物,。我們的 DNA 就是這樣的,，我們的心理特點(diǎn)就是這樣的。作為人類個(gè)體,，我們沒(méi)有任何有效的方法可以保護(hù)我們不受這種控制,。AI 算法越來(lái)越聰明，它們對(duì)我們的所做,、所信有完全的了解的同時(shí),，還對(duì)我們接收的信息有完全的控制。人類心智這個(gè)靜態(tài)的,、脆弱的系統(tǒng),，在這樣的 AI 面前只會(huì)越來(lái)越淪陷。

而很重要的是,，對(duì)大量人口的控制,，尤其對(duì)于政治觀念的控制來(lái)說(shuō)，讓 AI 控制我們看到哪些信息這樣的做法其實(shí)都不一定需要很先進(jìn)的 AI,。一個(gè)沒(méi)有自我認(rèn)識(shí)的,、沒(méi)有超級(jí)智能的 AI 就已經(jīng)可以是顯著的威脅。

直到 2015 年為止,，所有企業(yè)使用的廣告投放算法里使用的都只不過(guò)是邏輯回歸,。實(shí)際上，直到今天也還有很多公司是這樣做的,，只有市場(chǎng)里最大的玩家才切換到了更先進(jìn)的模型,。這就是我們?cè)诰W(wǎng)上看到的各種廣告里，有很多都顯得和自己毫無(wú)關(guān)系的原因,。這些算法沒(méi)有那么復(fù)雜,。類似地,，敵對(duì)國(guó)家用來(lái)散播政治觀點(diǎn)的社交媒體機(jī)器人里面要么沒(méi)有 AI，要么只有一點(diǎn)點(diǎn),。它們都太初級(jí)了,，目前來(lái)講。

在最近幾年里,，AI 的發(fā)展突飛猛進(jìn),，而這些新的技術(shù)成果才剛剛開(kāi)始部署在針對(duì)性的廣告投放和社交媒體機(jī)器人里而已。深度學(xué)習(xí)也是在 2016 年左右才開(kāi)始滲透到信息流和社交網(wǎng)絡(luò)這些領(lǐng)域里,。Facebook 在這些技術(shù)上都做了大規(guī)模的投資。

接下來(lái)還會(huì)發(fā)生什么誰(shuí)也不知道,。細(xì)想之下,，F(xiàn)acebook 在 AI 科研和開(kāi)發(fā)方面一直都有大規(guī)模的投資，而且很直白地希望自己成為這個(gè)領(lǐng)域的帶頭人,。這告訴了我們什么呢,？當(dāng)你的產(chǎn)品是信息流的時(shí)候，你需要 AI 和強(qiáng)化學(xué)習(xí)到底是為了做什么,？

我們現(xiàn)在面對(duì)的是這樣一個(gè)有著強(qiáng)大力量的實(shí)體：它為超過(guò) 20 億人類分別構(gòu)建了細(xì)粒度的心理學(xué)檔案,，它會(huì)做大規(guī)模的行為控制實(shí)驗(yàn)，同時(shí)它還有「開(kāi)發(fā)世界上最強(qiáng)大的 AI 技術(shù)」的目標(biāo),。以我個(gè)人來(lái)講,，真的是感到害怕。

如果你也在 AI 領(lǐng)域工作,，請(qǐng)不要幫助他們,。不要認(rèn)可他們的游戲規(guī)則。不要參與到他們的研究生態(tài)系統(tǒng)中,。做人要有良心,。

（關(guān)于「把個(gè)人的數(shù)字信息用作心理控制的手段」）有人說(shuō)谷歌也是這樣的。這算得上是最懶惰的一種思維方式了,，僅僅因?yàn)閮杉卤砻嫔峡雌饋?lái)有一些相似性（它們都是大型科技企業(yè)）,，不代表它們就是相關(guān)聯(lián)的。根本上,，我講的這些威脅并不會(huì)發(fā)生在谷歌身上,。亞馬遜也不會(huì)。蘋果也不會(huì),。理論上,，Twitter 是有可能的，不過(guò)實(shí)際上它基本上什么都沒(méi)做,。

產(chǎn)品是不透明的信息流算法,、做大規(guī)模的心情/觀點(diǎn)控制實(shí)驗(yàn),、快被操控選舉丑聞淹沒(méi)、一次又一次領(lǐng)導(dǎo)力破產(chǎn)的公司只有這樣一個(gè),。所以請(qǐng)不要條件反射般地以為「所有科學(xué)技術(shù),、所有廣告都是壞的」，請(qǐng)仔細(xì)考慮我說(shuō)的實(shí)質(zhì)內(nèi)容,。

對(duì)我個(gè)人來(lái)說(shuō),，我是有意識(shí)地選擇了來(lái)谷歌工作的。如果我開(kāi)始覺(jué)得不舒服了,，那我肯定會(huì)離開(kāi),。而如果我當(dāng)時(shí)選擇了去 Facebook 工作的話，我 2017 年就會(huì)離開(kāi),。

我們和這個(gè)信息密度越來(lái)越高的世界之間的溝通越來(lái)越多地依賴算法并不構(gòu)成什么問(wèn)題,。隨著互聯(lián)網(wǎng)和 AI 的發(fā)展崛起，這個(gè)趨勢(shì)是不可避免的,。真正的問(wèn)題在于控制,。我們需要讓用戶決定算法優(yōu)化的目標(biāo)是什么，而不是讓信息流算法控制我們,，從而達(dá)到它的某些不透明的目標(biāo)（比如影響我們的政治觀點(diǎn),，或者最大化我們?cè)谛畔⒘魃侠速M(fèi)的時(shí)間）。

讓用戶自己配置他們的信息流,，比如盡量幫助用戶自己的學(xué)習(xí)和個(gè)人成長(zhǎng)之類的,，應(yīng)當(dāng)成為一種可能性。這樣一來(lái),，更復(fù)雜的 AI 也不再是人類的威脅,，而會(huì)對(duì)我們有許多益處，可以讓我們更高效地達(dá)成自己的目標(biāo),。長(zhǎng)期來(lái)看,，我認(rèn)為教育和自我提升將會(huì)是 AI 最具影響力的應(yīng)用領(lǐng)域之一。這個(gè)動(dòng)態(tài)發(fā)展的過(guò)程仿佛是現(xiàn)在這樣企圖控制我們的 AI 系統(tǒng)的一個(gè)翻版,，但唯一的不同就是誰(shuí)來(lái)給算法設(shè)定目標(biāo),。

對(duì)于這個(gè)數(shù)字信息構(gòu)成的世界來(lái)說(shuō)，AI 就是我們和它之間的接口,。它既可以讓個(gè)人和團(tuán)體有更大的力量控制自己的人生,，也有可能引向被完全控制的不歸路。很遺憾的是,，我們正在錯(cuò)誤的方向上前進(jìn),。

從另一個(gè)角度來(lái)講，谷歌搜索,、Gmail,、iOS 和安卓這樣的技術(shù)產(chǎn)品對(duì)人類有益,，而 Facebook 信息流對(duì)人類有害的原因正是如此。前者是主動(dòng)的,，它們給了用戶更多力量,，讓他們能夠做更多、了解更多,。后者則是控制你的世界觀,，而且試著讓你在它里面盡可能多地浪費(fèi)時(shí)間。

人工智能作為一個(gè)產(chǎn)業(yè),，我們需要開(kāi)發(fā)新種類的產(chǎn)品類別和市場(chǎng),，其中產(chǎn)品的動(dòng)機(jī)是為了讓人類具有對(duì) AI 的控制權(quán)，而不是讓 AI 利用人類的心智獲利或者影響政治,。我們需要努力向著「反 Facebook」的技術(shù)產(chǎn)品前進(jìn),。

（完）

via Fran?ois Chollet@fchollet，雷鋒網(wǎng) AI 科技評(píng)論編譯