機構,、自媒體平臺轉載務必至后臺留言,,申請版權 后臺回復【0508】 獲得課程精彩圖片 同時還可以獲得獨家推薦 《Deep Learning》全本 你一定不想錯過! 文堅 明略數(shù)據(jù) 數(shù)據(jù)挖掘工程師 本碩就讀于香港科技大學,,研究生發(fā)表論文于頂級mobicom并獲美國專利,,參加阿里大數(shù)據(jù)競賽,于70000支隊中獲前10名,,畢業(yè)后于阿里工作,,負責探索個性化排序,相關研究工作投稿被KDD接收,。Spark,,Scikit-Learn,TensorFlow項目contributor,。目前為明略數(shù)據(jù)資深數(shù)據(jù)挖掘工程師,,主要負責數(shù)據(jù)挖掘工作。 課程回顧 Review 大家好,,我是黃文堅,,本科碩士畢業(yè)于香港科技大學,前阿里員工,,現(xiàn)明略數(shù)據(jù)數(shù)據(jù)挖掘負責人,。曾發(fā)表論文與頂級會議SIGMOBILE MobiCom, 也有一篇 KDD論文被接收。參加阿里巴巴大數(shù)據(jù)挖掘競賽,,于7000只隊伍中獲前10,。Spark, Scikit-Learn, Google TensorFlow 的contributor, 在深度學習工具TensorFlow的contributor中排名前20。
今天給大家講講深度學習,。我給大家講的比較輕松一點,,今天我不講技術原理,,主要講講技術應用。
深度學習是我們明略重要的研究方向,,是目前工業(yè)界學術界實現(xiàn)了很多令人驚嘆功能的工具,,也是通向人工智能的必經(jīng)之路。
我們先來看看深度學習能做什么,,Google研究的無人駕駛,其組件由兩個部分組成,,一個是眼睛,,一個是大腦,眼睛是激光測距儀和視頻攝像頭,,汽車收集到這些視頻信號之后,,并不能很好的識別,為了讓汽車能理解我們需要一個大腦,,這個大腦就是深度學習,,通過深度學習我們可以告訴我們的車載的計算機,現(xiàn)在前面有什么樣的物體,,并且結構化的抽取出來,。
比如說這個是通過擋風玻璃看到的畫面,讓機器理解,,必須要判斷視野內(nèi)的物體是移動還是靜止,,如果是靜止的話,可以當作是安全的物體,,只需避讓即可,,如果是移動的物體,那么還需要我們判斷他的速度和行駛方向進行相應的路線規(guī)劃,。
我們再看看人臉識別,,我們有很多技術做人臉識別,人臉識別可以做什么其他的東西呢,?深度學習不止告訴我們?nèi)四樤趫D片中哪個位置,,甚至告訴我這個人臉是誰的臉,是男性,、女性,,多大歲數(shù)都可以學習出來,包括人臉部的重要結點位置可以猜出來這個人是什么樣的表情,,甚至通過分析他嘴唇的動作,,可以說這個人在說什么話,包括頭發(fā)的顏色,,戴什么樣的墨鏡,,嘴唇涂什么樣的唇膏都可以識別出來,。
再舉一個大家熟知的格林深瞳的例子,比如說我們在重要機構里面可以有安防監(jiān)控,,深度學習訓練的卷積神經(jīng)網(wǎng)絡CNN,,可以識別被監(jiān)控的人員是否有異常的舉動,還有就是對車輛的追捕,,這輛車是否有逃逸的可能性,,超速行駛,逆行變道的風險,。
我們再看看AlphaGo
2016年3月,,Google DeepMind研發(fā)的AlphaGo 4:1 戰(zhàn)勝了世界冠軍李世石。標志了一個時代的終結和一個時代的開始,,人類在完全信息博弈的競技中敗北,,人工智能發(fā)展的元年開始。
圍棋很難被攻破的原因就是復雜度太高了,,每一步棋都有300多種可能,,一盤棋平均有200多步,總的狀態(tài)數(shù)量超過了整個宇宙中所有原子的數(shù)量,,不可能被搜索完整的狀態(tài),,我們只能通過估算和直覺進行圍棋的計算和思考。象棋很早就被攻破了,,圍棋可以堅持這么久,。深度學習可以讓機器有人類的直覺,預測人下一步要走什么,,同時分析及其應該走哪一步,。所以說DeepMind研發(fā)的AlphaGo,基本上做到了知己知彼,。
我們看看這兩個DeepMind深度學習的網(wǎng)絡,,上邊是策略網(wǎng)絡,我走到一步的時候,,分析棋盤上每個位置有多大價值,,給每個位置打一個分數(shù)。下邊這個估值網(wǎng)絡是估算黑白雙方的勝率的神經(jīng)網(wǎng)絡,。通過這兩個網(wǎng)絡的結合,,再加上一些之前通用搜索的方法,比如蒙特卡洛搜索樹,,可以讓計算機擁有一個非常強的對戰(zhàn)能力,。事實上是通過復盤的結果,AlphaGo和李世石對戰(zhàn)的時候,,AlphaGo從一開始就認為自己的勝率有60%以上,,到最后基本達到了90%,,他對整個棋盤的控制超過了人類的理解了,情況并不是很多評論員所認為的可能雙方還是均勢,,李世石還有機會等等,。大局完全都在AlphaGo的掌握當中。
Deep Q Net,,深度強化學習可以教會機器人如何靈活使用機械臂完成任務。如果之前讓一個機器人編程,,讓他去夾一個物體,,不能有太多的干擾,否則就無法實現(xiàn)準確的抓取?,F(xiàn)在我隨便放一盒子東西,,深度強化網(wǎng)絡可以自動訓練這個機器人拿什么樣的物體,,同時訓練它怎么去夾,,第一次沒有夾到那就再學習,再嘗試,,直到學會,。可以說深度學習讓機器人擁有幾歲小孩拾起物體的能力,。
Google DeepDream可以實現(xiàn)夢幻般的圖片生產(chǎn),,仿若夢魘一般。
大家看這個圖,,下邊這個圖是不是有點抽象,,這個畫是用深度學習網(wǎng)絡自動生成出來的,基本原理就是人觀察一張圖片的時候,,記不住所有的細節(jié),,在我們腦子里重構的時候會用之前的經(jīng)驗和概念在腦中塑造一個新的圖片,而深度學習也是這個意思,,在大數(shù)據(jù)量的需要上,,積累了很多過往的經(jīng)驗和數(shù)據(jù),我們給他一幅圖片重構的時候,,就制造出一個仿佛做夢或者腦海中胡思亂想的時候對這個圖片產(chǎn)生的理解,。所以我們可以說,它已經(jīng)具備了人類對事物抽象和重構的能力,。
使用深度學習實現(xiàn)的EasyStyle,,可以將任意圖片內(nèi)容與另一種圖片風格融合
這個圖可能大家很熟悉,最上邊這位是美國總統(tǒng)競選人Trump, 中間這幅畫是著名畫家的畫作,,通過深度神經(jīng)網(wǎng)絡結合我們可以合成下面的圖,,沒有進行任何算法的調(diào)優(yōu),,它獲取上邊這個圖內(nèi)容的信息,再獲取中間這個圖風格的信息,,完美的結合就成了中間這張圖,。
Neural Doodle – 將涂鴉變成繪畫 (GIF圖片更精彩,但尺寸過大,,大家直接回復0508即可查看) 比如說隨手涂鴉一幅畫,,可以得到一幅像模像樣的一幅山水畫。我們還可以先解析一幅圖的主要組成部分,,然后調(diào)整其中的形狀,,再把原來的圖重構出來,我們可以得出現(xiàn)實生活中不存在的圖,,這個是類似于人腦對物體的解析和重構的能力,。 Image Analogies – 使用深度學習變形圖片。
Deep Q Net - 深度強化網(wǎng)絡實現(xiàn)AI自動玩游戲 (GIF圖片更精彩,,但尺寸過大,,大家直接回復0508即可查看)
GoogleDeepMind除了做圍棋軟件還有實現(xiàn)自動玩游戲的AI,人類學習并不是一個監(jiān)督和非監(jiān)督的過程,,是一個獎懲的機制,,你做對的時候會有好的刺激,比如說我哭了,,我媽媽過來把飯拿過來了,,我吃了,很高興,,我下次可能餓了還要再哭,。這套系統(tǒng)也是這樣的,隨即采取一些策略獲得比較高分的時候,,他會記住這個策略,。下邊這幅圖是太空大戰(zhàn)游戲,使用程序玩游戲已經(jīng)超過了世界上玩這個游戲選手的最高水平了,。
動態(tài)記憶網(wǎng)絡實現(xiàn)的圖片問答系統(tǒng)
我們可以看看這幅圖,,左邊是使用一個基于LSTM長短期記憶網(wǎng)絡的動態(tài)來對一段語言進行理解,并回答問題,。而右邊則是直接對圖片進行提問并讓計算機回答,,使用的技術是動態(tài)記憶網(wǎng)絡。
目前我們可以做到這種程度,,問左上角大巴的顏色是什么,,最后轉換成語言回答,雖然回答只是簡單的單詞,但是事實上深度神經(jīng)網(wǎng)絡已經(jīng)理解你的問題,,同時在圖片上理解相關要素,,然后再解析,回答你的能力了,。其他幾個圖也是類似的概念,。
Visual Genome - 下一代的圖像識別公開數(shù)據(jù)集 108,249 Images 4.2 Million Region Descriptions 1.7 Million Visual Question Answers 2.1 Million Object Instances 1.8 Million Attributes 1.8 Million Relationships Everything Mapped to Wordnet Synsets
其實深度學習學習的發(fā)展是離不開研究人員對數(shù)據(jù)集的探索的,之前我們有一個知名的數(shù)據(jù)集叫做ImageNet,是有幾百萬張圖片讓深度學習網(wǎng)絡訓練和測試?,F(xiàn)在它升級了,,叫Visual Genome,不止對圖片分類,,還要看出有什么關聯(lián),,比如說這里有一個女人,戴著帽子,,和帽子是什么關系,,是佩戴的關系。她拿著吉他是拿和演奏的關系,,我們要找不同物體之間存在的關系,。
這個圖是一個簡單的例子, 深度神經(jīng)網(wǎng)絡可以解析出這個圖片上有兩個成人和小孩,,小孩扔飛盤,,大人在看,,我們要把關聯(lián)的關系,、動態(tài)的關系都挖掘出來。
圖像識別與NLP,,使用Deep Learning解析圖像中的結構化信息,,并生成描述性語言。
我們看看這幅圖上能做什么,,我們可以讓深度神經(jīng)網(wǎng)絡先嘗試理解這幅畫得結構,,然后再用語言把這幅畫描述出來,比如生成這樣一段話:這張圖右邊有一棵樹,,左邊有一個塔,,塔有一個塔尖和一個塔身組成,塔身上有三個窗戶,,有一個門,。塔前有許多人在站著。
Word Embedding, 或者Distributed Representation, 中文叫詞向量,,是使用深度學習學習出來的單詞的向量化表示,,有如下特性: King – Man ? Queen – Woman 同時意思相似的詞,在空間位置上距離相近。
詞向量把我們常用的詞匯轉化為空間中的某一個點,,點有什么特性呢: 如果詞匯意思相近的話,,在空間中位置應該也是相近的,左上角可以找到許多點都是城市,,雖然深度神經(jīng)網(wǎng)絡不知道北京,、倫敦在什么地方,里面有什么建筑也都不知道,,但是通過大量的學習出來城市的概念,,并把他們放在空間中很相近的位置。我們并沒有任何的語言和數(shù)據(jù)教它,,是他通過大量的學習自己發(fā)現(xiàn)的,。
構建A股市場上市公司的深度知識圖譜,提供關系挖掘決策分析,。知識圖譜可以將企業(yè)的投融資,、上下游,競爭等關系關聯(lián)起來,,從而展示出一家企業(yè)在行業(yè)中的全貌,。
我們學習構建一個深度的知識圖譜可以用在企業(yè)關系的挖掘,有一家上市公司,,比如說是做鋰電池的,,可以找到他投融資的企業(yè),并將上下游競爭關系全部聯(lián)起來,,這些企業(yè)之間會有信息的傳遞,,如果網(wǎng)絡構建足夠大可以有一個模型,分析預測這個上市公司股價以后未來的走勢,。
還有一個應用就是語音識別,,百度最近有一個語音識別,叫雙向循環(huán)神經(jīng)網(wǎng)絡BDRNN,,可以把每個音節(jié)都識別出來,,發(fā)音中略微有一些口音和錯誤,也能夠把大致的意思正確的識別出來,。這個是語音識別的可視化的圖像,,我們把語音信號降維成一個平面的圖,你會發(fā)現(xiàn)同一個元音音節(jié)和輔音音節(jié)在平面當中很相近的,,都被抽象成有相鄰關系的點,,說明它真正理解了語音這個聲頻信號代表的含義。
(GIF圖片更精彩,,但尺寸過大,,大家直接回復0508即可查看)
從核磁共振(MRI)圖像和視頻中來診斷心臟疾病,,更科學的代替肉眼建立病情診斷模型 一個更加有社會價值的就是深度學習可以作為醫(yī)療診斷的重要根據(jù),這是去年特別有名的心臟疾病診斷的比賽,,當時參加比賽的最后獲得冠軍的隊伍,,他們做到了準確度甚至超過了專家的水平。將幾萬張圖片給深度學習的網(wǎng)絡學習規(guī)律,,其中正確答案是五位專家商討得到的,,但是計算機的水平超過了單個專家的診斷水平。
Deep Learning in Bioinformatics:深度學習在生物醫(yī)學領域,,比如醫(yī)學圖像處理,、醫(yī)學信號處理等有很好的應用基礎
還有一個應用的領域,對DNA的解析,,有很多遺傳病是基因突變引起的,,可能不是某一兩個節(jié)點,可能是同時有幾千個節(jié)點發(fā)生了問題,,讓人判斷究竟怎么組合才會出問題是不可能了,。這個時候深度學習可以來告訴我們,我們拿到一個人DNA之后,,可以自動分析出來你在未來得某種疾病的幾率有多少,,可以提早的預防治療。
我們看看深度學習到底為什么這么厲害,?深度學習是一個對特征不斷抽象的過程,,我們給他一個圖片,深度神經(jīng)網(wǎng)絡首先提取出點和邊,,然后組合成人局部的器官,,比如說一個眼睛和鼻子,局部的器官之后可以把拼接成一個個人臉,,人臉外貌上有差異,,我們用模版再匹配出最相似的就可以看看有沒有人臉,,深度學習非常像人的學習過程,,你必須一層一層的抽象才能理解更深的概念,,之所以叫深度是有多層的學習網(wǎng)絡,,每一層是把特征抽象更高階的概念,,理解非常復雜的事物,。
這是深度學習網(wǎng)絡可視化的結果,,我們給一個識別數(shù)字的神經(jīng)網(wǎng)絡一張數(shù)字‘8’的圖,,可以清楚的看到每一層神經(jīng)網(wǎng)絡對原圖進行了哪些特征變換,。
這是一個深度學習常見的卷積結構,細節(jié)不講了,,大家可以感受一下,,其中主要了Convolution Layer, Max-Pooling Layer, 以及ReLu Activation。
Auto-Encoder(Layer-wise Training), RBM, DBN ·PReLu, RReLu ·Dropout ·RNN, LSTM ·Max-Out ·Highway (Residual Net) ·Batch normalization ·Weight normalization 隨著研究的不斷深入,深度學習還有著各種各樣的變種和組件,,上面這些一些最新的關于深度學習的研究成果,。
我們講講深度學習在我們明略項目中的應用,我們有個很大的制造業(yè)客戶,,他們有個故障預測的項目,,我們能做什么呢?深度學習除了建模的能力比普通的強一點,,還可以學習時間序列的結構,,設備傳感器的數(shù)據(jù)是一個時間序列,每一秒鐘或者多少毫秒產(chǎn)品信號,,我們用傳統(tǒng)的方法很難處理這么高緯度,,這么大數(shù)據(jù)量的模型法國,深度學習可以理解在時間上的關系,,大大提高我們對故障分類的預測,。
另外一個就是在銀行對不良客戶檢測的模型中,我們有數(shù)百維的儲蓄,、消費,、信貸特征如果我們請專家來做非常困難,因為很多時候,,當你的特征太多了,,很難想到那么多規(guī)則的組合,用深度學習可以進行自動特征組合,,比如說發(fā)現(xiàn)我的銀行的儲蓄額很高,,但是可能在月底突然取出來了,可能就代表著我可能只是臨時在里面,,跟別人借的錢放在里面,,并不是我有這么高的資金做抵押,這個時候發(fā)現(xiàn)的時候,,就可以排除在外,,這個可能就超過了很多行業(yè)專家的工作效率了。
某制造業(yè)故障分析及預測,,對傳感器信號的幾百萬次檢測數(shù)值的時間序列分析,,使用CNN以及RNN進行建模,對錯誤進行分類以及預測,。 某銀行不良客戶檢測,,對客戶數(shù)百個行內(nèi)儲蓄,,消費,,信貸特征,,以及數(shù)十的行外標簽特征,使用深度學習進行自動特征組合,,提取出高層次的特征,,將檢測準確率大大提升
深度學習對我們的明略的數(shù)據(jù)挖掘平臺DataInsight是前沿的重要的方向,我們會推出軟硬一體的解決方案,,也會使用TESLA GPU做深度學習加速器,。
NVIDIA DGX-1? 世界第一臺為深度學習特別定制的系統(tǒng)。它革命性的性能極大縮短了神經(jīng)網(wǎng)絡的訓練時間,,性能等效于250臺CPU服務器的集群,。
NVIDIA Tesla? P100 accelerator. 第一塊Pascal架構的顯卡 擁有180億晶體管 使用 NVIDIA NVLINK? 使用16nm FinFET 制造工藝 Tesla P100 不僅是目前性能最強的GPU加速器, 也是技術最先進的GPU芯片 DataInsight的分布式深度學習系統(tǒng)
基于TensorFlow分布式版的方案,,可同時利用集群中每臺服務器的CPU以及GPU 基于Spark的分布式方案:Elephas(依賴Keras), SparkNet, CaffeOnSpark(依賴Caffe) 基于CNTK, MXNET的分布式版本方案,,只能使用集群中的CPU或GPU
DataInsight將全部支持以上三種方案,,并將非算法網(wǎng)絡結構的部分全部封裝,,只暴露給用戶對其建模有幫助的參數(shù),,簡化用戶搭建分布式系統(tǒng)的工作。
好的,,謝謝大家,今天的圖文講解部分就到這里了,,下面大家可以向我提問。(沒能夠參與微課的朋友們可以在本文下方留言處留言提問哦~) 問答時間 Question Q:老師你的CNN在大數(shù)據(jù)環(huán)境下用什么來實現(xiàn)的,? A:我們的CNN在大數(shù)據(jù)環(huán)境下使用分布式的Tensorflow實現(xiàn)的。 Q:可不可以分享一些你們實現(xiàn)CNN方法的資料或者博客,? A: 百度的BDRNN目前沒有相關文章,,可以參考wrap-CTC,github的開源項目,。 Q:你們的這個Datainsight頭次聽說 性能跟caffe torch比起來咋樣呀,? A: 我們不是底層的深度學習框架,是上層的應用,,我們底層封裝的是分布式的tensorflow,整理成了一個圖形化可拖拽的易用可靠的分布式深度學習平臺,。 Q:有什么深度學習的好書嗎,,適合初學的? A:有一般MIT出版的《 Deep Learning》,。這本書沒實體,,只有電子版。(黃老師獨家推薦,,回復0508即可獲得,,限時下載,不要錯過哦) Q:可不可以分享一些你們實現(xiàn)CNN方法的資料或者博客,? A:我們的底層CNN使用通過tensorflow實現(xiàn)的,,可以參考tensorflow的tutorial。 Q:深度學習在健身上有什么應用,,因為我是健身愛好者 ,。 A:可以用來做健身類運動的推薦系統(tǒng)。 Q:銀行不良客戶識別用的是什么模型? A:深度學習模型,,一個多層的神經(jīng)網(wǎng)絡,,沒有CNN,RNN,,但使用了dropout Q:tensorflow與caffe,、theano等那個更適合初學者學習? A:最適合初學者的是keras,,基于theano和tensorflow的上層封裝,。 Q:深度學習做推薦系統(tǒng)可以么? A:當然可以,,做一個分類的模型即可,,輸出概率 Q:在醫(yī)學信號處理領域,有應用深度學習的參考文獻嗎,? A:非常多,,可以在acmdl搜索deep learning以及medical image Q:機器學習可以做決策、分類,,也可以做時間序列預測么,? A:可以,類似于CNN和RNN,,都是專門為時間序列分析而生的,,效果很好。 Q:一般做實驗發(fā)論文用的硬件配置是怎么樣的,?需要GPU集群嗎,? A:性價比最高的方案是配一臺單機加幾塊Titan X GPU。 Q:基于spark那幾個去哪里找,?spark不自帶吧,? A:從github找,,那幾個名字的都能找到。 Q:在什么樣的制造企業(yè)使用過,?有做過質量分析的嗎 ,? A:國內(nèi)頂尖的制造業(yè),中國中車,,做的故障分析,。 Q:深度學習可以做視頻的目標跟蹤嗎? A:可以,,可以做object detection,。 Q:故障預測那部分實例能詳細解釋下么? A:把傳感器信號記錄的結果當做時間序列,,然后用CNN和RNN去處理時間序列,,做一個分類模型。 Q:深度神經(jīng)和bp就是在每次訓練都去修正權值嗎 ,? A:對的,,所有機器學習模型都是在訓練中修正參數(shù)。 Q:在電商領域,,怎么應用深度學習做推薦系統(tǒng)呢,? A:用客戶的點擊,購買行為,,還有畫像數(shù)據(jù),,使用深度學習做一個ctr預估模型。 Q:Learning to Rank 的深度學習模型有哪些, supervised 還是 unsupervised,? A:learning to rank不知道有沒有深度學習,,只聽說過ranksvm, rankgbdt等,。 Q:是不是先要給電腦換個好一些的gpu才能搞深度學習,?有沒有推薦的?價格4000左右,。 A:4000左右很難,,起碼得有一塊好的gpu。 Q:工業(yè)界基于VGG這樣訓練好的模型進行再訓練的例子多么,?這個方法有什么好壞,? A:可以,很好,,還可以用google inception v3,。 壞處就是對你的問題場景不一定很切合。 Q:深度學習怎么入門? A:先上手代碼,,從keras的tutorial開始入門,。 Q:差點的gpu,是不是就慢點,,也可以做深度學習的,,對嗎? A:對,,就是慢點,,cpu也可以,使用cpu的話最快的是tensorflow,。 Q:深度學習每一層都是一個特征,,比如bp網(wǎng)絡,中間的隱藏層輸出后,,可視化就是個抽象的特征嗎,? A:是的,每一層是對特征的一種抽象行駛,。 Q:有什么深度學習的好書嗎,,適合初學的。深度學習應該從哪里入門呢,?用不用先把ML過一遍再開始學 ,? A:書的話推薦MIT的 《Deep Learning》(黃老師獨家推薦,回復0508即可獲得,,限時下載,,不要錯過哦),代碼從keras的tutorial開始,。 Q:CNN模型是否都是supervised? A:目前我了結到的是這樣的,。 Q:深度學習與物聯(lián)網(wǎng)有何聯(lián)系? A:沒有特別直接的聯(lián)系,。 Q:深度學習需要高質量數(shù)據(jù)集,,數(shù)據(jù)集除了UCI,還有哪些公開渠道獲得數(shù)據(jù)集,? A:imagenet,, visual genome Q:深度學習可以用于股票分析嗎? A:可以,,我本人會使用深度學習做股票漲跌預測,,量化交易。 Q:是不是可以理解為高品質數(shù)據(jù)是深度學習成敗的最關鍵因素,? A:是的,,高品質大量的數(shù)據(jù)是關鍵。 Q:深度學習是在以往神經(jīng)網(wǎng)絡的基礎上每次迭代都增加了權值修正嗎 ,? A:不主要是這樣,,深度學習主要是神經(jīng)的層數(shù)比較多,,比較深,對特征的抽象比較好,。 Q:在電商領域,,怎么應用深度學習做推薦系統(tǒng)呢? A:用客戶的點擊,,購買行為,,還有畫像數(shù)據(jù),使用深度學習做一個ctr預估模型,。 Q:如何把imagenet 的圖片和自己的圖片放一起訓練 ,? A:可以先用訓練好的google inception v3,再訓練自己的圖片,。 Q:做股票,,有具體的實現(xiàn)模型嗎?給大家參考 A:這個不能公開,,但是可以討論思想,。 Q:請問在醫(yī)療的數(shù)字骨科方面有沒有應用呢? A:很多,,針對醫(yī)療圖像做疾病診斷,。 Q:對于因素提取方面,深度學習是不是可以自動進行,,對于非監(jiān)督學習,,深度學習效果真的很好嗎? A:非監(jiān)督的目前主要是autoencoder,, 深度學習三巨頭之一說非監(jiān)督是為了深度學習最重要的方向,。 Q:CNN卷積核如何優(yōu)化還是可以訓練調(diào)整? A:CNN卷積核的參數(shù)可以在訓練中自動調(diào)整,,自動優(yōu)化,。 Q:能否介紹下哪個CNN模型的卷積核有自動調(diào)整優(yōu)化的? A:所有的有CNN實現(xiàn)的框架,,theano,,tensorflow,mxnet,,caffe,,torch都是可以自動優(yōu)化CNN的參數(shù)。 Q:深度學習崗位,,編程能力要很強嗎,? A:需要比較強的工程實現(xiàn)能力。 Q:這種處理的結果是預測是否在某一時間節(jié)點發(fā)生故障吧?那么引發(fā)故障的影響因子能做預測么,? A:引發(fā)故障的因子是黑盒分析的,,深度學習的模型并不能準確知道。 Q:請問對于時間序列的預測問題除了RNN CNN 以外,,是否還有LSTM,, 除了深度學習 其他有哪些最常用的機器學習方法呢? A:LSTM也屬于RNN, 其他的一些機器學習方法做時間序列不方便,,可以使用ARIMA,。 Q:學深度學習,,除了看tutorial,,還需要怎樣來提高?因為tutorial可能都是比較現(xiàn)成的東西,。,。去參加kaggle?感覺是不是節(jié)奏太快,? A:參加kaggle比賽是個好方法,,上面要贏得比賽,會經(jīng)常需要deep learning,,還有xgboost,。 Q:人工智能這一塊,可以推薦些高校和專業(yè)嗎,?老弟今年高考,,希望給點建議! A:北大智能系,。 Q:請問,,在電商做用戶分類和推薦,主要用什么方法比較好,? A:傳統(tǒng)一點的,,gbdt lr, 新的 用深度學習 …… 大家關注我們后,,可以在文末留言區(qū)繼續(xù)留言提問,! |
|
來自: CharlseShan > 《IT》