|
《AI 世界生存指南》 文 | 史中 吃瓜群眾善于想象未來,。 雖然大多數(shù)時候我們能猜到開頭,，卻猜不到結(jié)局。 可以確定的是：不出五年,，世界上的人工智能設(shè)備肯定會像原子彈爆炸一樣地增長,。 但這樣的未來世界，會好嗎,？
中哥能文思如尿崩地想到上面這些鏡頭，是因為對面坐著一位能“預言未來”的科學家——韋韜,。 韋韜是誰,？ 韋韜曾經(jīng)在北大學習和任教二十多年。他是中國第一批研究網(wǎng)絡安全的科學家,，可以說見證了安全行業(yè)的變遷,。見到他中哥敲開心。 而他現(xiàn)在的身份是：百度首席安全科學家,，掌管著全百度最前沿的安全研究方向,。 有關(guān)韋韜的傳奇經(jīng)歷，一萬字都說不完,，中哥專門寫了另一篇文章：《百度首席安全科學家韋韜：從內(nèi)存戰(zhàn)爭到黑產(chǎn)戰(zhàn)爭》（鏈接戳這里）介紹,。絕對值得你點開一看。 韋韜 未來世界會比現(xiàn)在更安全嗎,？（答：并不會） 上干貨,。 恕中哥直言，現(xiàn)在的世界很操蛋,。電信詐騙,、騷擾電話蛇鼠橫行，賽博世界盜匪猖獗,。 那未來世界會好一點嗎,？ 韋韜說：如果我們袖手旁觀，有人工智能的未來要比現(xiàn)在糟糕一百倍,。,。。 圖片取自《銀翼殺手 2049》 為了更清楚,，他給我推演了三個場景： 1,、智能家居成為“叛軍”。 在五年后,，你的生活可能會很不一樣：
這些電視音箱,，和手機一樣有“眼睛”有“耳朵”，又天天坐在你家臥室客廳,，用腳趾頭想也會明白：它們的安全水平,，怎么說都得達到（甚至超過）你手機的安全水平吧。,。,。 然鵝，正好相反,。 以現(xiàn)在黑產(chǎn)（黑色產(chǎn)業(yè)鏈的簡稱,，后同）的水平，干掉市面上絕大多數(shù)智能音箱和智能電視都不成問題,。
沒錯，對于壞人來說,，你家的智能家居很“得力”,。 此乃隱私安全！
2、智能汽車成為“移動的武器” 五年后,，汽車會在室外繼承現(xiàn)在手機的一些功能,。 按照技術(shù)推演，未來五年內(nèi)大量跑在道路上的車都是無人車,。到時候《速8》里那種黑客控制一堆汽車左沖右突的場景就會成為可能,。 不過，真實世界中更可能出現(xiàn)的,，卻是另外一幕：
此乃人身安全,！ 3,、區(qū)塊鏈成為“黑客的取款機”。 在人工智能普及的年代,，現(xiàn)在用電腦手機把錢轉(zhuǎn)來轉(zhuǎn)去的銀行體系會發(fā)生巨大的變化,。區(qū)塊鏈很可能成為支付的重要途徑。 區(qū)塊鏈炒雞便捷,，但同時也有一個小問題,。用韋韜的話說就是“防御沒有縱深”。
此乃財產(chǎn)安全,！
一半是區(qū)塊鏈 一半是格爾尼卡 這三個場景，代表了未來世界的“七寸”,。 韋韜覺得,，歷史是會重演的。智能時代的安全問題,，在手機普及的這十年中早就發(fā)生過一遍了：
大神眼中的未來智能世界居然是這個樣子的。,。,。 臥槽。,。,。。 有點方,。,。。 腫么辦,？,？？ 沒事,，韋韜老濕可不是那種裝完X就跑的人,。他信奉一句話：“人生一切難題，技術(shù)給你答案,?！?/span> 過去的三年間，他一直在帶領(lǐng)兄弟們“閉關(guān)修煉”,。為這個人工智能世界暗淡的未來準備了一整套技術(shù)方案,。 最近，他剛剛把這拯救世界的“武林秘籍”公諸于世,。
拯救智能世界的“五字訣” 這拯救未來世界的“武林秘籍”其實只有五個字： “斗”“陣”“臨”“兵”“皆” 韋韜告訴我,，它們?nèi)∽缘兰业木抛终嫜浴?/span> 聽到這里,，中哥心中不禁納尼。,。,。我到底采訪了一位科學家還是道長？
韋韜告訴我,，他取了這些字,，有兩個原因：
為了科普,，果然是不遺余力啊,。。,。聽中哥一句,，遇到這樣的大神，不妨嫁了,。 下面進入長姿勢環(huán)節(jié)： “斗” 道家對“斗”的解釋是：勇猛果敢,。翻譯成普通話就是：
科普一下：
所以,，一個智能硬件被黑客干掉，也有兩種可能的原因,。 第一個原因在于：這些硬件本身“身輕體柔易推倒”,。 韋韜解釋說：
這就大概像個媽,，每天叮囑你穿秋褲帶保溫杯,。 問題來了,。 各個品牌型號的音箱電視攝像頭，基本每款都對應一個量身定制的系統(tǒng),，有的用 Android,，有的用 Linux，有的用 FreeRTOS,。,。。版本繁多,，系統(tǒng)的“碎片化”特別嚴重,。看得人密集恐懼癥都要犯了。
終端系統(tǒng)碎片化 就像這樣 這樣的話,，某型號的智能音箱可能總共就賣了1000臺，那專門為它研究安全方案的“媽”（也就是安全研究員）天天就為這一個系統(tǒng)服務,，估計每月能分到的工資超不過500塊,，肯定不會有人去做。,。,。那么，這臺硬件的安全水準,，就停留在了出廠狀態(tài),，任人宰割。,。,。 然鵝，從黑客的角度來看卻是另一番景象：不用多,，只要有一臺設(shè)備不安全,，就是天賜良機，恨不得從他的主人身上詐騙出來百萬千萬,。 這就好像： 一個牧羊人要看住一百群性格迥異的羊,； 而狼叼走任何一個羊群中的任何一只羊就夠一個月的伙食。,。,。 這個矛盾貌似不可調(diào)和啊。 不過,，韋韜有一個絕妙的解決方案,，那就是：
不不不，錯了,，重來,，那就是：
你可能會問：不是剛說了么,，每種系統(tǒng)只能開發(fā)定制化補丁，怎么又說能用同一種方法給多種系統(tǒng)打補??？ 中哥給你舉個栗子吧：
韋韜和團隊想到的辦法是：洞不用補，我們做個機器人站在洞旁邊,，只要有人過來,，不管好壞，一棒子打暈,。,。。,。
這樣一來,，適配的壓力就沒那么大了。市場上的幾十萬種系統(tǒng),，只需要幾十種“機器人”就能適配搞定了,。當然，藝高人膽大,，這種玩法背后是要靠開掛級的技術(shù)支撐的,。 這種技術(shù)就被稱為“KARMA 熱修復”。 其實,，中哥第一次見到韋韜是在 2016 年的 BlackHat 上,， 當時他就給我講了這種熱修復技術(shù)。淺友可以點擊中哥 2016 年的文章《Android 系統(tǒng)的安全性有救了,？》,，里面有詳細的技術(shù)解釋。 事情還沒結(jié)束,。 剛才說了,，未來的智能硬件都會連接云端服務器。就像四肢都通過神經(jīng)聯(lián)通大腦一樣,。除了四肢被攻擊,，大腦也可能被攻擊。 于是,，智能家居被攻擊的第二個原因就是：云端的防護不夠騷,。 所謂：“端上的漏洞靠修補,，云上的進攻靠 WAF”?！霸芖AF” 是安全研究員專門用來保護云安全的一套系統(tǒng),。 不過，傳統(tǒng)的 WAF 最近幾年黑客兇猛的攻勢下顯得有點力不從心,，一些腳本小子都可以上網(wǎng)找到一些工具繞過 WAF,。于是韋韜帶領(lǐng)團隊研究了一個新的防護模型 OpenRASP。 舉個栗子解釋一下： WAF 就像一個“云計算大廈”的保安,，看到形跡可疑的人就攔下來,。但是，假如壞人喬裝改扮,，就可能騙過保安混進去,。
OpenRASP 就像“云計算大廈”每個房間里面的保鏢。你形跡再可疑我都不管你,，但你膽敢動我的抽屜柜子桌子椅子,，分分鐘抽死你。
有關(guān) OpenRASP 的具體原理,，中哥也寫過一篇文章詳細介紹，各位淺友可以打開《百度安全的 OpenRASP 是什么,？》（鏈接戳這里）復習一哈,。 有了 KARMA 熱修復+OpenRASP 的“KO兄弟”組合，就基本可以掐死很大一部分黑產(chǎn)的進攻套路,。 此為“斗”,。 ----------------- ----------------- “陣” 對付人工智能世界黑客的第二招叫做“陣” 道家對“陣”的解釋是：洞察要害。翻譯成普通話就是：
你可能聽過神醫(yī)扁鵲和他老哥的故事,。 扁鵲善于醫(yī)治 ICU 里的患者,。每次治病都大動干戈，刀槍劍戟斧鉞鉤叉都往病人身上招呼,，還時常能治好,，所以成了千古名醫(yī)。不過他卻說,，我家大哥的醫(yī)術(shù),，比我高到不知哪里去。但因為他能在人剛得病還活蹦亂跳的時候,，就用簡單的艸藥治好,，所以在鄉(xiāng)親們看來，這一點都不厲害,。,。,。 但不得不說，扁鵲大哥是“早已看穿一切”的那個人,。 同樣的道理?。簞偛盼覀冋f了半天，又是派出“機器人”,，又是給漏洞做“熱修復”,，大動干戈。但是,，如果有一種方法,，讓系統(tǒng)本身就不會產(chǎn)生高危的漏洞，這不就一勞永逸了嗎,？,？ 這種方法是有的。 無論是 Android 還是 Linux,，現(xiàn)在主流的硬件系統(tǒng)都是用 C語言寫成的,。這個計算機語言可謂是功勛卓著。但韋韜還是準備吐槽一下它,。 作為誕生在上世紀八十年代的“80后”語言,，C語言有一個天生的缺陷，那就是“內(nèi)存不安全”,。 啥叫內(nèi)存不安全呢,？
所以，研究員們就用內(nèi)存安全的語言 Rust 和 Go 重寫了很多重要的系統(tǒng)和協(xié)議,。
有句話叫：蒼蠅不叮無縫的蛋。 黑客攻擊的本質(zhì),，是揪住你的微小破綻,，然后撕開一道口子干掉你。如果系統(tǒng)本身運行得井井有條,，不會出現(xiàn)事故,，那么再牛X的黑客，都只能望洋興嘆,。 這就是抓住事情本質(zhì)的效果,。 最近，研究員們已經(jīng)寫出了基于內(nèi)存安全語言的 MesaLock Linux（這個系統(tǒng)中哥之前詳細講過,，可以點擊《用在黑匣子里的系統(tǒng)是什么樣的,？》（鏈接戳這里）來查看）； 他們還寫出了基于內(nèi)存安全語言的網(wǎng)絡傳輸協(xié)議棧 Mesalink（這個技術(shù)中哥之前也講過,，可以點擊《一把鎖的傳奇——從 OpenSSL 到 MesaLink》（鏈接戳這里）來復習）,。 此為“陣”。 ----------------- ----------------- “臨” 道家對“臨”的解釋是“根基穩(wěn)定”,。翻譯成普通話就是：
再跟隨中哥想一個問題： 一個著名畫家把自己的畫作放到發(fā)廊里展覽,，他怎么保證發(fā)廊不會把這幅畫弄丟弄壞，或者根本就是發(fā)廊老板用一個贗品偷梁換柱呢,？
同樣的道理： 在未來世界里,，“汽車廠商”就是那個畫家，“汽車的云端服務系統(tǒng)”就是那幅畫,，車廠需要把服務系統(tǒng)部署在云計算里,，“云計算廠商”就是畫廊。
要知道,，在《速8》里，黑客就是通過入侵了汽車云端控制系統(tǒng),，修改了服務器的代碼,，才拿到了總控權(quán)，控制那些“僵尸車”的,。這件事情在真實世界很可能發(fā)生,。 好的，這個問題就變成了：車廠怎么保證跑在云計算上的系統(tǒng)代碼不被篡改呢,？ 答案是：加上一道鎖,。 具體的操作是這樣的：
在韋韜看來,，無論世界套路多么深,，只要把解密的鑰匙攥在自己手里，就是抓住了根基,，穩(wěn)的一比,。 百度安全實驗室為這套技術(shù)開發(fā)了一套名為 Rust SGX 的工具，中哥也曾經(jīng)寫過文章介紹,，可以打開《未來是個大型隱私交換現(xiàn)場,，你需要一個“隱私紅娘”》（鏈接戳這里）來復習。 此為“臨”,。 --------------------------- --------------------------- “兵” 道家對“兵”的解釋是“行動循章”,。翻譯成普通話就是：
人有兩個弱點：1、不可靠,。2,、笨。
所以,，韋韜覺得：“復雜的世界里，能靠代碼和制度解決的問題,，就要盡量脫離人,。” 就好像在三四線的城市里，人們需要層層托關(guān)系,，效率比較低,；而在一線城市里，人們更多按照制度辦事,，效率就會大大提高,。 所以，韋韜設(shè)計了一套安全的計算架構(gòu) MesaTEE,，讓所有的環(huán)節(jié)都自動銜接,，這樣就把需要信任的人減到最少。 在這個基礎(chǔ)上,，再利用人工智能和大數(shù)據(jù)的方法來分析漏網(wǎng)的安全問題,，就基本可以達到萬無一失了。（當然,，人工智能本身的安全性研究也歸為此列,，有空中哥專門開貼講講。） 此為“兵” ------------------------------ ------------------------------ “皆” 道家對“皆”的解釋是：善統(tǒng)人心,。韋韜把它理解為：
剛才說的無數(shù)種應對未來智能世界風險的技術(shù),。百度安全的團隊把它們統(tǒng)稱為 BASS（百度 AI 下一代技術(shù)棧）。 通過最近兩年的實驗,，BASS 在技術(shù)上已經(jīng)得到了驗證,。 接下來，百度安全決定把這一整套技術(shù)在“朋友圈”開源,，讓人工智能設(shè)備制造商們都可以免費使用 BASS 技術(shù),，并且貢獻自己的力量改進它。 為此,，百度安全發(fā)起了一個名為 OASES 的聯(lián)盟,，聯(lián)盟內(nèi)的企業(yè)都可以共享開源技術(shù)。 此為“皆”,。 ------------------------------ 五字訣說完了,，本期最硬的科普部分已經(jīng)過去~高能警報解除~~ （由于這是一整套對未來智能世界的回應，信息量實在太大,，所以中哥把很多細節(jié)技術(shù)用鏈接的形式插在了文章里,。） 人工智能世界將有一場”代碼保衛(wèi)戰(zhàn)“ 說句題外話,。我之所以這么喜歡和大牛聊天,，是因為可以親耳聽到他們描繪未來世界的模樣，然后用最風騷的姿勢迎接它的到來,。 所以前兩天,，我不顧老媽反對，“強制”給她裝了一個智能音箱。 我也知道現(xiàn)在的智能音箱還有點“智障”,，但它卻無疑是通往未來世界的一個入口,，我不希望我的親人錯失它。 包括韋韜在內(nèi)的諸多大牛,，描繪的場景大概是這樣：
人工智能硬件體內(nèi),，都存儲著一段段代碼組成的“基因”。我們所做的一切努力,，本質(zhì)上都是在保衛(wèi)這些基因,。
這些,，是韋韜看到的未來，也是他給出的答案,。 這個智能世界像一片嶄新的大陸,，我們的船已經(jīng)迫近了它的岸邊，甚至都無法掉頭離開,。這片大陸上,，有富饒的田野，也有橫行的鬼魅,。 《槍炮病菌和鋼鐵》中的故事,，也許正在重演。 在靠岸之前,，我們還有最后的時間,，為這個世界做好準備,。與其說這是一場賽跑，毋寧說這是一場戰(zhàn)爭,。 比起銘記,，我們更善于忘記。比起團結(jié),，我們更善于撕逼,。 所以有人說，學了那么多道理,，卻還是過不好這一生,。但愿我們不要“看了那么多科幻電影，卻無法留給孩子更美好的未來,?！?/span>
|
|
|
