|
【新智元導(dǎo)讀】谷歌大腦負(fù)責(zé)人Jeff Dean上周在“嵌入式視覺年度峰會(huì)”上發(fā)表演講《智能計(jì)算系統(tǒng)中的大規(guī)模深度學(xué)習(xí)》,，結(jié)合多年應(yīng)用實(shí)例，討論在從手機(jī)到數(shù)據(jù)中心等不同環(huán)境中部署機(jī)器學(xué)習(xí)模型的不同方法,，著重介紹TensorFlow如何幫助開發(fā)者加速研究轉(zhuǎn)化率,、共享模型。 Jeff Dean,，計(jì)算機(jī)科學(xué)家與軟件工程師,。Google大腦項(xiàng)目負(fù)責(zé)人，曾參與開發(fā) BigTable,、MapReduce 等產(chǎn)品,。關(guān)于他有很多傳說，比如有一天當(dāng)Jeff Dean在優(yōu)化一個(gè)功能時(shí),，他被迫發(fā)明了異步調(diào)用的API,。這樣的話這個(gè)功能可以在它被調(diào)用之前就可以返回結(jié)果了。 關(guān)注新智元微信公眾號(hào),，回復(fù) 0520 下載PPT全文（76頁(yè)） 亮點(diǎn)
打造智能產(chǎn)品,， 必須讓計(jì)算機(jī)理解——而理解不是一件簡(jiǎn)單的事情 雖然離終點(diǎn)還有距離,，但研究人員做出了顯著進(jìn)展
“谷歌大腦”項(xiàng)目始于2011年,，專注于發(fā)展最先進(jìn)的神經(jīng)網(wǎng)絡(luò),。初期重點(diǎn)是：
盡可能拓展計(jì)算機(jī)的感知和語(yǔ)言理解能力 隨著時(shí)間推移,，深度學(xué)習(xí)在谷歌得到越來越廣泛的應(yīng)用 深度學(xué)習(xí)的潛力（目標(biāo)） 實(shí)現(xiàn)跨領(lǐng)域通用表征 數(shù)據(jù)和簡(jiǎn)單的機(jī)器學(xué)習(xí)算法取代繁冗編碼
深度學(xué)習(xí)在產(chǎn)業(yè)界和學(xué)術(shù)界的應(yīng)用 語(yǔ)音識(shí)別 目標(biāo)識(shí)別和檢測(cè) 機(jī)器翻譯 語(yǔ)言建模 語(yǔ)法分析
神經(jīng)網(wǎng)絡(luò)是一些從數(shù)據(jù)提煉的復(fù)雜函數(shù),，從一個(gè)空間輸入轉(zhuǎn)化為另一個(gè)空間的輸出,。
深度網(wǎng)絡(luò)模型與大腦運(yùn)作原理相似，但并非直接模擬神經(jīng)元如何工作,，而是一種簡(jiǎn)單抽象的神經(jīng)元網(wǎng)絡(luò),。人工神經(jīng)元不會(huì)產(chǎn)生脈沖，只會(huì)生成數(shù)值,。神經(jīng)元的函數(shù)就是通過非線性函數(shù)計(jì)算輸入的加權(quán)乘以權(quán)重之和,。
最低層的神經(jīng)元會(huì)查看像素的小塊，更高層的神經(jīng)元會(huì)看下層神經(jīng)元輸出再?zèng)Q定是否生產(chǎn),。Google目前有能力快速搭建和訓(xùn)練基于海量數(shù)據(jù)的模型,，解決真實(shí)世界中的實(shí)際問題，在不同的平臺(tái)（比如移動(dòng)端,、GPU,、云端）部署生產(chǎn)模型。 學(xué)習(xí)算法：重點(diǎn)與誤區(qū)（略）
如何構(gòu)建能夠真正理解這些原始數(shù)據(jù)的計(jì)算系統(tǒng),？ 神經(jīng)網(wǎng)絡(luò)特點(diǎn)（略） 深度學(xué)習(xí)在谷歌的應(yīng)用
語(yǔ)音識(shí)別
圖像識(shí)別
圖像搜索與分類
谷歌街景
描述圖像
翻譯團(tuán)隊(duì)寫了一個(gè)App,，使用計(jì)算機(jī)視覺來識(shí)別鏡頭中文字，再翻譯成文本,，最后在圖片上覆蓋翻譯好的文字,。模型足夠小可以在所有設(shè)備上運(yùn)行。
機(jī)器學(xué)習(xí)系統(tǒng)的理想特征
概述（略） 初代歷史（略） GitHub 資源（略） 制作動(dòng)機(jī)（略） TensorFlow：表達(dá)高級(jí)機(jī)器學(xué)習(xí)計(jì)算（略） 計(jì)算可以用一張數(shù)據(jù)流圖表示 我們輸入數(shù)據(jù),、權(quán)重,、誤差以及標(biāo)簽，在不同節(jié)點(diǎn)進(jìn)行不同的運(yùn)算,。Tensor 意味著N維數(shù)組,，1 維時(shí)就是向量，2 維時(shí)就是矩陣,；用圖像可以可以用三維張量（行,、列、顏色）表示更高維的數(shù)據(jù)流,；Flow（流）意味著基于數(shù)據(jù)流圖的計(jì)算,。有許多運(yùn)算（圖中的節(jié)點(diǎn)）應(yīng)用在數(shù)據(jù)流上。張量從圖象的一端流動(dòng)到另一端,，這就是“TensorFlow”,。“邊”代表張量（數(shù)據(jù)）,，節(jié)點(diǎn)代表運(yùn)算處理,。
使用張量計(jì)算
使用狀態(tài)計(jì)算
使用分布式計(jì)算
理想的移動(dòng)端和嵌入式部署
使用低精度整數(shù)運(yùn)算 補(bǔ)充資源
（1）使用云端API
（2）使用Pre-trained圖像模型
（3）用你自己的圖像數(shù)據(jù)訓(xùn)練模型
（4）開發(fā)你自己的機(jī)器學(xué)習(xí)模型 深度學(xué)習(xí)展望（略） 應(yīng)用領(lǐng)域（略）
與機(jī)器人視覺結(jié)合
總結(jié)
|
|
|
