|
深度學(xué)習(xí)領(lǐng)域的大師Yann LeCun表示，AI的下一個發(fā)展方向可能是摒棄深度學(xué)習(xí)的所有概率技巧,，轉(zhuǎn)而掌握多種變化的能量值,。據(jù)說有一些工程師和科學(xué)家，可以在他們的腦海中想象出那些尚未變成現(xiàn)實(shí)的構(gòu)思,，F(xiàn)acebook的AI主管Yann LeCun就是這種人,。他在《機(jī)器學(xué)習(xí)時刻》(When the Machine learning)一書中寫到，“我主要靠直覺工作”,。這本新書既是一本傳記,，科普書籍，同時也是一部AI史,。這本書于10月16日出版了法文版,，名為《Quand la machine apprend》。LeCun在書中寫道：“我在腦海中勾勒出了愛因斯坦稱之為‘思維實(shí)驗(yàn)’的臨界情況,。”這種在通常認(rèn)為在可行的范圍內(nèi)想象不存在的東西的能力,，是工程師和創(chuàng)新者的標(biāo)志。LeCun在AI人群中是一個罕見的人物,，他不僅精通算法設(shè)計,，在計算機(jī)工程領(lǐng)域也有一定的建樹。LeCun今年因?qū)τ嬎銠C(jī)科學(xué)的貢獻(xiàn)獲得了ACM圖靈獎,，最出名的是他在20世紀(jì)90年代推進(jìn)和完善了卷積神經(jīng)網(wǎng)絡(luò)(CNN),，并使其實(shí)用化。他沒有從零發(fā)明這個東西,，但他使得CNNs變得實(shí)用可行,，這奠定了機(jī)器學(xué)習(xí)革命的基礎(chǔ)。在過去的十年里,，LeCun以及同為獲獎?wù)叩腉eoffrey Hinton和Yoshua Bengio,，一同在機(jī)器學(xué)習(xí)領(lǐng)域中脫穎而出。10月16日,，在新澤西州普林斯頓高等研究院(Institute for Advanced Study),，工程師LeCun在臺上解釋了什么聽起來像是直覺，但卻是實(shí)實(shí)在在的直覺,。這是一個為期三天的深度學(xué)習(xí)研討會,，具體來說,，就是深度學(xué)習(xí)的理論探討。該活動由研究所數(shù)學(xué)教授Sanjeev Arora組織,，吸引了許多人工智能領(lǐng)域的杰出人物,，包括Nvidia的人工智能研究負(fù)責(zé)人Anima Anandkumar，以及LeCun的同事——Facebook學(xué)者Leon Bottou,。LeCun的幻燈片演示的是他最近在許多講座上所采用的主題：如何超越傳統(tǒng)深度學(xué)習(xí)的標(biāo)記訓(xùn)練范例,。他對聽眾說：“我們不可能單純地通過監(jiān)督或多任務(wù)學(xué)習(xí)讓機(jī)器獲得一般人類的智力，我們將不得不采取其他方法,。”LeCun認(rèn)為,，另一種方法就是無監(jiān)督學(xué)習(xí)。為了使無監(jiān)督學(xué)習(xí)成為可能,，整個領(lǐng)域需要更多地研究一種方法——機(jī)器學(xué)習(xí)能量模型(energy-based learning),。能量函數(shù)在AI領(lǐng)域已經(jīng)存在了數(shù)十年。生物學(xué)家John Hopfield在20世紀(jì)80年代首次推廣了這種方法,，當(dāng)時人們稱之為“霍普菲爾德網(wǎng)絡(luò)”(Hopfield Network),。這在當(dāng)時是機(jī)器學(xué)習(xí)的一個突破，它還催生了其他類型的學(xué)習(xí)算法,，這些算法處理的是需要優(yōu)化的能量場概念,，例如Hinton追求的“玻爾茲曼機(jī)”。此外,，LeCun還反思了卷積網(wǎng)絡(luò)的持久吸引力,。“關(guān)于機(jī)器學(xué)習(xí)能量模型的想法已經(jīng)有一段時間了，” LeCun說,，“最近因?yàn)槲倚枰獪p少監(jiān)督學(xué)習(xí)算法的使用,，所以又意識到了這一點(diǎn)。”機(jī)器學(xué)習(xí)模型很容易學(xué)習(xí)案例中的細(xì)節(jié),，但是其基本思想是,，不要創(chuàng)建大量帶有標(biāo)簽的數(shù)據(jù)集（例如貓和狗的圖片），也不用花費(fèi)數(shù)千小時玩DeepMind的AlphaZero這樣的國際象棋游戲,，而只是獲取一些豐富的原始數(shù)據(jù),，例如大量的YouTube視頻剪輯，然后將其提供給計算機(jī),。LeCun說：“可以把這臺機(jī)器做得非常大,，讓它整天觀看YouTube或Facebook上的直播。”機(jī)器可以被訓(xùn)練來預(yù)測每一幀視頻之后接下來會發(fā)生什么,。預(yù)測和現(xiàn)實(shí)之間的相容性就是所謂的能量水平,。較低的能量更好,、更兼容,，意味著更準(zhǔn)確,，所以神經(jīng)網(wǎng)絡(luò)試圖達(dá)到一個理想的低能量狀態(tài)。LeCun在舞臺上充滿活力,，尤其對主題的細(xì)微差別很感興趣,。他向觀眾展示了其不確定性的一面，他直視著前方,，開始前后擺動手臂,，并說道：“你現(xiàn)在正看著我，你在拍我的視頻,，背景沒有變化,，相機(jī)也沒有移動。”“發(fā)生的唯一一件事情是,，我可以朝一個方向或另一個方向移動我的頭,，可以以不同的方式移動我的肌肉，而在這次演講中,，我頭部的所有圖片的流形現(xiàn)在都是一個低維流形,，受到我頭部肌肉數(shù)量的限制。”LeCun的想法在機(jī)器學(xué)習(xí)方面相當(dāng)激進(jìn)的,。在LeCun的版本中,，能量函數(shù)消除了概率預(yù)測。“我認(rèn)為正確的做法是拋棄概率框架,，因?yàn)樗清e誤的,，也是沒用的”他認(rèn)為，典型的神經(jīng)網(wǎng)絡(luò)必須有“無限權(quán)值,。”顯然,，在LeCun的設(shè)想中還有一些尚未實(shí)現(xiàn)，他嘗試把它表達(dá)出來,，但是距離真正實(shí)現(xiàn),，仍需時日。LeCun稍后將登上飛往巴黎的飛機(jī),，與記者會面討論這本書,。本周，他登上了在法國時尚雜志《新觀察家》(l'Obs)的封面上,，談?wù)揂I的前景和危險,，這是每個人都為之興奮與害怕的東西。幾十年來,，LeCun和其他人都可以看到它,，但這些東西并沒有起作用。現(xiàn)在它似乎已經(jīng)太管用了，倘若必須有人來充當(dāng)監(jiān)察人員,，那正是LeCun,。https://www./article/high-energy-facebooks-ai-guru-lecun-imagines-ais-next-frontier/實(shí)習(xí)/全職編輯記者招聘ing 加入我們，親身體驗(yàn)一家專業(yè)科技媒體采寫的每個細(xì)節(jié),，在最有前景的行業(yè),，和一群遍布全球最優(yōu)秀的人一起成長。坐標(biāo)北京·清華東門,，在大數(shù)據(jù)文摘主頁對話頁回復(fù)“招聘”了解詳情,。簡歷請直接發(fā)送至[email protected]
|
