|
5月12日消息：據(jù)國(guó)外媒體報(bào)道,，經(jīng)過(guò)幾十年發(fā)展，人工智能已經(jīng)從科幻小說(shuō)里的一個(gè)概念,，變成了當(dāng)今科技發(fā)展的主流,。蘋果的語(yǔ)音控制系統(tǒng)Siri、亞馬遜的智能助手Alexa,、IBM的沃森超級(jí)電腦,、谷歌大腦...能夠理解這個(gè)世界并且給出高效反饋的智能機(jī)器似乎就在眼前。 強(qiáng)大的互聯(lián)網(wǎng)接入和學(xué)習(xí)運(yùn)算法則讓機(jī)器在理解人類語(yǔ)音,、視頻信息的方面取得了飛躍性的進(jìn)步,，也逐漸向狹義上真正的人工智能邁進(jìn)。AI(ArtificialIntelligence),可實(shí)現(xiàn)自動(dòng)響應(yīng)的人工智能產(chǎn)品距離我們還遠(yuǎn)嗎,？如何讓他們保持不斷自我更新升級(jí)但是依然在人類可控范圍內(nèi),？ 這個(gè)問(wèn)題給人們帶來(lái)普遍的擔(dān)心和焦慮?！拔艺J(rèn)為人工智能的發(fā)展最終會(huì)導(dǎo)致人類族群的滅絕,，”物理學(xué)家斯蒂芬·霍金接受BBC的采訪給出了這樣的觀點(diǎn)。特斯拉的創(chuàng)始人埃隆·馬斯克把AI成為“人類最大的潛在威脅”,。微軟前總裁比爾·蓋茨也表示過(guò)類似的擔(dān)憂,。 有多少擔(dān)憂是必要的？問(wèn)題有多緊迫,？我們聚集了多位工業(yè),、科研研究、政策決策領(lǐng)域的專家,，一起評(píng)估人工智能的發(fā)展風(fēng)險(xiǎn),。參加此次話題討論的包括Skype創(chuàng)始人之一、人類未來(lái)發(fā)展?jié)撛陲L(fēng)險(xiǎn)研究院的智庫(kù)成員——JaanTallinn,，IBM的沃森超級(jí)電腦研究院負(fù)責(zé)電腦認(rèn)知研究的專家——GuruduthS.Banavar,，帕多瓦大學(xué)計(jì)算機(jī)系教授、哈佛大學(xué)拉德克利夫高級(jí)研究所研究院和狙擊最多AI研究者的國(guó)際人工智能研究協(xié)會(huì)主席——FrancescaRoss,。 以下是經(jīng)過(guò)編輯整理的專家談話內(nèi)容,。 危險(xiǎn)究竟是什么？ 記者：人工智能會(huì)對(duì)人類造成哪些威脅,？ Banavar：受科幻小說(shuō),、電影的影響，人工智能帶來(lái)的威脅主要是人類與機(jī)器之間的矛盾沖突,，這個(gè)觀點(diǎn)其實(shí)是錯(cuò)誤的。人工智能在某些領(lǐng)域能夠比人類更出色地解決問(wèn)題，比如大數(shù)據(jù)篩選,。然而,，某些人類擅長(zhǎng)的領(lǐng)域離，機(jī)器的表現(xiàn)非常糟糕,。比如常識(shí)推理,、提出精彩的問(wèn)題以及“跳出來(lái)”想問(wèn)題。人類和機(jī)器的結(jié)合體,，即我們研究的計(jì)算機(jī)認(rèn)知能力的基礎(chǔ),，是對(duì)解決各個(gè)領(lǐng)域的復(fù)雜問(wèn)題的革命性的設(shè)想。 人工智能為基礎(chǔ)的系統(tǒng)已經(jīng)在很多方面為我們的生活提供了便利：股票自動(dòng)交易系統(tǒng),、自動(dòng)飛行控制系統(tǒng),、工業(yè)流水作業(yè)機(jī)器、錯(cuò)誤檢測(cè)和搜索引擎...在過(guò)去的5-10年間,，機(jī)器學(xué)習(xí)運(yùn)算法則和先進(jìn)的計(jì)算機(jī)架構(gòu)讓我們實(shí)現(xiàn)了很多新應(yīng)用,。 然而，需要認(rèn)識(shí)到,，計(jì)算機(jī)運(yùn)算法則已經(jīng)被運(yùn)用到極致,。要實(shí)現(xiàn)更大的進(jìn)步，則需要引入更多復(fù)雜的符號(hào)系統(tǒng)——這是個(gè)很高的要求,。今天我們的神經(jīng)科學(xué)和認(rèn)知科學(xué)研究,，對(duì)于人類智能的研究還只是抓到皮毛。 我個(gè)人的觀點(diǎn)是,，能夠達(dá)到人類水平進(jìn)行一般感知,、推測(cè)的人工智能機(jī)器還只是個(gè)娛樂(lè)話題。 TALLINN：今天的人工智能不可能對(duì)人類構(gòu)成威脅,。如果我們要討論人工智能的長(zhǎng)遠(yuǎn)影響,，（也就是人工智能能夠比人類更好地完成策略、科學(xué),、人工智能研究的時(shí)候,。）我們就要涉及到控制超級(jí)智能的問(wèn)題。 記者：什么是超級(jí)智能控制問(wèn)題,？ TALLINN：現(xiàn)在最先進(jìn)的機(jī)器人也存在一個(gè)能夠讓人類實(shí)現(xiàn)完全控制的“關(guān)機(jī)鍵”,。然而，“關(guān)機(jī)鍵”發(fā)揮作用的前提是它在機(jī)器人的工作領(lǐng)域之外,。舉個(gè)例子,，一個(gè)會(huì)下棋的電腦工作領(lǐng)域僅限于與人對(duì)弈，它并不會(huì)覺(jué)察到它的人類對(duì)手可以拔掉它的電源終止游戲,。 然而,，超級(jí)智能機(jī)器，經(jīng)過(guò)有意或者無(wú)意的程序設(shè)定，能夠全面的了解周圍世界并且對(duì)于有人可以動(dòng)他們的“關(guān)機(jī)鍵”的后果作出預(yù)測(cè),，人類就很難再控制它,。 記者：這個(gè)問(wèn)題有多嚴(yán)重？ TALLINN:目前這還只是理論上的推測(cè),。但是需要謹(jǐn)慎的認(rèn)識(shí)到,，超級(jí)智能機(jī)器可能會(huì)僅僅受控于物理學(xué)定律和人們給早期智能機(jī)器人設(shè)定的程序。 早期的程序是基于我們十分有限的物理學(xué)知識(shí)設(shè)計(jì)的,。想象一下,，如果面對(duì)一個(gè)智能機(jī)器人，我們給出的指令是“為人類創(chuàng)建更偉大的未來(lái)”,，我們最好能夠十分確定它們會(huì)做出怎樣的反應(yīng),。 ROSSI：在很多具體的領(lǐng)域，人工智能的表現(xiàn)已經(jīng)超越人類,，其中就包括一些涉及精確判斷的領(lǐng)域,。目前，人工智能并未威脅到人類,，但是人類已經(jīng)受到機(jī)器判斷的影響,，如線上自動(dòng)交易系統(tǒng)，健康檢查系統(tǒng)以及很快就將普及的無(wú)人駕駛汽車和無(wú)人操控武器,。 我們需要明確了解分析人工智能在具體領(lǐng)域內(nèi)存在的潛在威脅,，既讓它們發(fā)揮作用，又要確保它們能夠安全,、友好,、按照人類價(jià)值觀運(yùn)轉(zhuǎn)。這并不是個(gè)簡(jiǎn)單的課題,，因?yàn)榧词故侨祟?，在大多?shù)時(shí)間里都無(wú)法遵照自己設(shè)定的原則行動(dòng)。 給日常生活帶來(lái)的影響 記者：人工智在具體領(lǐng)域會(huì)給人類帶來(lái)怎樣的威脅,？ ROSSI:比如自動(dòng)交易系統(tǒng),，機(jī)器給出的一個(gè)錯(cuò)誤的決策會(huì)給很多人帶來(lái)決經(jīng)濟(jì)損失。無(wú)人駕駛汽車的失誤也會(huì)給人來(lái)帶來(lái)生命安全的威脅,。 記者：應(yīng)該怎么看待這些風(fēng)險(xiǎn),？ BANAVAR:任何風(fēng)險(xiǎn)都有兩面性：做這件事的風(fēng)險(xiǎn)和不做這件事的風(fēng)險(xiǎn)。我們已經(jīng)有很多基于信息不完全,、專業(yè)人士的不專業(yè)做出的錯(cuò)誤決定,，造成數(shù)千人死亡，上百萬(wàn)美金損失以及在諸如醫(yī)療等核心領(lǐng)域緩慢的發(fā)展?fàn)顩r,?；贗BM沃森超級(jí)電腦在很多領(lǐng)域的應(yīng)用經(jīng)驗(yàn),，我認(rèn)為，在具體領(lǐng)域上,，人工智能能夠有效的降低風(fēng)險(xiǎn),。 然而對(duì)于全面人工智能領(lǐng)域，我持有謹(jǐn)慎的觀點(diǎn),。我認(rèn)為我們一直低估了這個(gè)問(wèn)題的復(fù)雜性。我們有太多未知未知了,。 記者：IBM采取哪些措施來(lái)降低人工智能技術(shù)風(fēng)險(xiǎn),？ BANAVAR:IBM的計(jì)算機(jī)認(rèn)知系統(tǒng)，和其他現(xiàn)代計(jì)算機(jī)系統(tǒng)一樣,，是基于云計(jì)算結(jié)構(gòu),，運(yùn)算法則和大量數(shù)據(jù)構(gòu)建的。這些系統(tǒng)的運(yùn)轉(zhuǎn)是可以被記錄,、追蹤和審查,，防止出現(xiàn)違反安全政策的現(xiàn)象。這些認(rèn)知系統(tǒng)不是自主運(yùn)轉(zhuǎn)的,，所以他們的指令,、數(shù)據(jù)、結(jié)構(gòu)需要我們采取一定保護(hù)措施來(lái)防止外部攻擊,。任何接入,、更新我們系統(tǒng)的人都是可控的。 我們主要通過(guò)復(fù)雜的加密和數(shù)字簽名來(lái)保護(hù)數(shù)據(jù),，通過(guò)漏洞掃描和其他技術(shù)手段保護(hù)運(yùn)算代碼,，通過(guò)隔離等手段保護(hù)計(jì)算機(jī)結(jié)構(gòu)。 這些支持人工智能安全運(yùn)行的政策是基于對(duì)風(fēng)險(xiǎn)的深度分析設(shè)計(jì)的,。這些政策需要經(jīng)過(guò)安全和交易委任,管理銷售和公共安全提供的委員會(huì)（SEC),、食品及藥物管理局（FDA)以及美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院（NIST）這些各自領(lǐng)域內(nèi)負(fù)責(zé)設(shè)定安全標(biāo)準(zhǔn)的機(jī)構(gòu)審查。 |
|
|
