01 什么是學(xué)習(xí)

我們首先來看幾個(gè)存在于大自然的動(dòng)物學(xué)習(xí)的例子,。從這些熟悉的例子中可以看出,，機(jī)器學(xué)習(xí)的一些基本問題也存在于自然界,。

1. 怯餌效應(yīng)——老鼠學(xué)習(xí)躲避毒餌

當(dāng)老鼠遇到有新穎外觀或氣味的食物時(shí),，它們首先會(huì)少量進(jìn)食，隨后的進(jìn)食量將取決于事物本身的風(fēng)味及其生理作用,。如果產(chǎn)生不良反應(yīng),，那么新的食物往往會(huì)與這種不良后果相關(guān)聯(lián)，隨之,，老鼠不再進(jìn)食這種食物,。很顯然,，這里有一個(gè)學(xué)習(xí)機(jī)制在起作用——?jiǎng)游锿ㄟ^經(jīng)驗(yàn)來獲取判斷食物安全性的技能,。如果對(duì)一種食物過去的經(jīng)驗(yàn)是負(fù)標(biāo)記的,，那么動(dòng)物會(huì)預(yù)測在未來遇到它時(shí)也會(huì)產(chǎn)生負(fù)面影響,。

前文的示例解釋了什么是學(xué)習(xí)成功，下面我們?cè)倥e例說明什么是典型的機(jī)器學(xué)習(xí)任務(wù),。假設(shè)我們想對(duì)一臺(tái)機(jī)器進(jìn)行編程,，使其學(xué)會(huì)如何過濾垃圾郵件。一個(gè)最簡單的解決方案是仿照老鼠學(xué)習(xí)躲避毒餌的過程,。機(jī)器只須記住所有以前被用戶標(biāo)記為垃圾的郵件,。當(dāng)一封新郵件到達(dá)時(shí),，機(jī)器將在先前垃圾郵件庫中進(jìn)行搜索,。如果匹配其中之一，它會(huì)被丟棄,。否則，它將被移動(dòng)到用戶的收件箱文件夾,。

雖然上述“通過記憶進(jìn)行學(xué)習(xí)”的方法時(shí)常是有用的,，但是它缺乏一個(gè)學(xué)習(xí)系統(tǒng)的重要特性——標(biāo)記未見郵件的能力,。一個(gè)成功的學(xué)習(xí)器應(yīng)該能夠從個(gè)別例子進(jìn)行泛化,，這也稱為歸納推理,。在“怯餌效應(yīng)”例子中,，老鼠遇到一種特定類型的食物后,，它們會(huì)對(duì)新的,、沒見過的,、有相似氣味和口味的食物采取同樣的態(tài)度。

為了實(shí)現(xiàn)垃圾郵件過濾任務(wù)的泛化,，學(xué)習(xí)器可以掃描以前見過的電子郵件，并提取那些垃圾郵件的指示性的詞集,；然后,，當(dāng)新電子郵件到達(dá)時(shí),，這臺(tái)機(jī)器可以檢查它是否含有可疑的單詞，并相應(yīng)地預(yù)測它的標(biāo)簽,。這種系統(tǒng)應(yīng)該有能力正確預(yù)測未見電子郵件的標(biāo)簽,。

但是，歸納推理有可能推導(dǎo)出錯(cuò)誤的結(jié)論,。為了說明這一點(diǎn),，我們?cè)賮硭伎家粋€(gè)動(dòng)物學(xué)習(xí)的例子,。

2. 鴿子迷信

心理學(xué)家B. F. Skinner進(jìn)行過一項(xiàng)實(shí)驗(yàn),，他在籠子里放了一群饑餓的鴿子,?；\子上附加了一個(gè)自動(dòng)裝置,，不管鴿子當(dāng)時(shí)處于什么行為狀態(tài),，都會(huì)以固定的時(shí)間間隔為它們提供食物,。饑餓的鴿子在籠子里走來走去，當(dāng)食物第一次送達(dá)時(shí),，每只鴿子都在進(jìn)行某項(xiàng)活動(dòng)（啄食,、轉(zhuǎn)動(dòng)頭部等）,。食物的到來強(qiáng)化了它們各自特定的行為,，此后，每只鳥都傾向于花費(fèi)更多的時(shí)間重復(fù)這種行為,。

接下來,，隨機(jī)的食物送達(dá)又增加了每只鳥做出這種行為的機(jī)會(huì),。結(jié)果是,，不管第一次食物送達(dá)時(shí),，每只鳥處于什么行為狀態(tài)，這一連串的事件都增強(qiáng)了食物送達(dá)和這種行為之間的關(guān)聯(lián),。進(jìn)而,，鴿子們也更勤奮地做出這種行為,。

了解更多：

http://psychclassics./Skinner/Pigeon

有用的學(xué)習(xí)機(jī)制與形成迷信的學(xué)習(xí)機(jī)制有何差別,？這個(gè)問題對(duì)自動(dòng)學(xué)習(xí)器的發(fā)展至關(guān)重要。盡管人類可以依靠常識(shí)來濾除隨機(jī)無意義的學(xué)習(xí)結(jié)論,，但是一旦我們將學(xué)習(xí)任務(wù)付之于一臺(tái)機(jī)器,，就必須提供定義明確、清晰的規(guī)則,，來防止程序得出無意義或無用的結(jié)論。發(fā)展這些規(guī)則是機(jī)器學(xué)習(xí)理論的一個(gè)核心目標(biāo),。

是什么使老鼠的學(xué)習(xí)比鴿子更成功？作為回答這個(gè)問題的第一步,，我們仔細(xì)看一下老鼠在“怯餌效應(yīng)”實(shí)驗(yàn)中的心理現(xiàn)象,。

3. 重新審視“怯餌效應(yīng)”——老鼠未能獲得食物與電擊或聲音與反胃之間的關(guān)聯(lián)

老鼠的怯餌效應(yīng)機(jī)制可能比你想象中的更復(fù)雜,。Garcia進(jìn)行的實(shí)驗(yàn)(Garcia & Koelling 1996)表明，當(dāng)進(jìn)食后伴隨的是不愉快的刺激時(shí),，比如說電擊（不是反胃反應(yīng)），那么關(guān)聯(lián)沒有出現(xiàn),。即使將進(jìn)食后電擊的機(jī)制重復(fù)多次,，老鼠仍然傾向于進(jìn)食,。

同樣，食物引起的反胃（口味或氣味）與聲音之間的關(guān)聯(lián)實(shí)驗(yàn)也失敗了,。老鼠似乎有一些“內(nèi)置的”先驗(yàn)知識(shí),，告訴它們，雖然食物和反胃存在因果相關(guān)，但是食物與電擊或聲音與反胃之間不太可能存在因果關(guān)系,。

由此我們得出結(jié)論,，怯餌效應(yīng)和鴿子迷信的一個(gè)關(guān)鍵區(qū)別點(diǎn)是先驗(yàn)知識(shí)的引入使學(xué)習(xí)機(jī)制產(chǎn)生偏差，也稱為“歸納偏置”,。在實(shí)驗(yàn)中,，鴿子愿意采取任何食物送達(dá)時(shí)發(fā)生的行為,。然而,，老鼠“知道”食物不能導(dǎo)致電擊,，也知道與食物同現(xiàn)的噪音不可能影響這種食物的營養(yǎng)價(jià)值,。老鼠的學(xué)習(xí)過程偏向于發(fā)現(xiàn)某種模式，而忽略其他的關(guān)聯(lián),。

事實(shí)證明,，引入先驗(yàn)知識(shí)導(dǎo)致學(xué)習(xí)過程產(chǎn)生偏差，這對(duì)于學(xué)習(xí)算法的成功必不可少（正式陳述與證明參見“沒有免費(fèi)的午餐”定理）,。這種方法的發(fā)展,，即能夠表示領(lǐng)域知識(shí)，將其轉(zhuǎn)化為一個(gè)學(xué)習(xí)偏置,，并量化偏置對(duì)學(xué)習(xí)成功的影響,，是機(jī)器學(xué)習(xí)理論的一個(gè)核心主題。粗略地講,，具有的先驗(yàn)知識(shí)（先驗(yàn)假設(shè)）越強(qiáng),，越容易從樣本實(shí)例中進(jìn)行學(xué)習(xí)。但是,，先驗(yàn)假設(shè)越強(qiáng),，學(xué)習(xí)越不靈活——受先驗(yàn)假設(shè)限制。

02 什么時(shí)候需要機(jī)器學(xué)習(xí)

什么時(shí)候需要機(jī)器學(xué)習(xí),，而不是直接動(dòng)手編程完成任務(wù),？在指定問題中，程序能否在“經(jīng)驗(yàn)”的基礎(chǔ)上自我學(xué)習(xí)和提高,，有兩方面的考量：問題本身的復(fù)雜性和對(duì)自適應(yīng)性的需要,。

1. 過于復(fù)雜的編程任務(wù)

• 動(dòng)物/人可執(zhí)行的任務(wù)：雖然人類可以習(xí)慣性地執(zhí)行很多任務(wù)，但是反思我們?nèi)绾瓮瓿扇蝿?wù)的內(nèi)省機(jī)制還不夠精細(xì),，無法從中提取一個(gè)定義良好的程序,。汽車駕駛、語音識(shí)別和圖像識(shí)別都屬于此類任務(wù),。面對(duì)此類任務(wù),，只要接觸到足夠多的訓(xùn)練樣本,，目前最先進(jìn)的機(jī)器學(xué)習(xí)程序，即能“從經(jīng)驗(yàn)中學(xué)習(xí)”的程序,，就可以達(dá)到比較滿意的效果,。

• 超出人類能力的任務(wù)：受益于機(jī)器學(xué)習(xí)技術(shù)，另一大系列任務(wù)都涉及對(duì)龐大且復(fù)雜的數(shù)據(jù)集進(jìn)行分析：天文數(shù)據(jù),，醫(yī)療檔案轉(zhuǎn)化為醫(yī)學(xué)知識(shí),，氣象預(yù)報(bào)，基因組數(shù)據(jù)分析,，網(wǎng)絡(luò)搜索引擎和電子商務(wù),。隨著越來越多的數(shù)字?jǐn)?shù)據(jù)的出現(xiàn)，顯而易見的是,，隱含在數(shù)據(jù)里的有意義,、有價(jià)值的信息過于龐大復(fù)雜，超出了人類的理解能力,。學(xué)習(xí)在大量復(fù)雜數(shù)據(jù)中發(fā)現(xiàn)有意義的模式是一個(gè)有前途的領(lǐng)域,，無限內(nèi)存容量加上不斷提高的處理速度，更為這一領(lǐng)域開辟了新的視野,。

2. 自適應(yīng)性

編程的局限之一是其刻板性——一旦程序的編寫與安裝完成,，它將保持不變。但是,，任務(wù)會(huì)隨著時(shí)間的推移而改變,，用戶也會(huì)出現(xiàn)變更。機(jī)器學(xué)習(xí)方法——其行為自適應(yīng)輸入數(shù)據(jù)的程序——為這個(gè)難題提供了一個(gè)解決方案,。機(jī)器學(xué)習(xí)方法天生具備自適應(yīng)于互動(dòng)環(huán)境變化的性質(zhì)。

機(jī)器學(xué)習(xí)典型的成功應(yīng)用有：能夠適應(yīng)不同用戶的手寫體識(shí)別,，自動(dòng)適應(yīng)變化的垃圾郵件檢測,，以及語音識(shí)別。

03 學(xué)習(xí)的種類

學(xué)習(xí)是一個(gè)非常廣泛的領(lǐng)域,。因此,，機(jī)器學(xué)習(xí)根據(jù)學(xué)習(xí)任務(wù)的不同分為不同的子類。這里給出一個(gè)粗略的分類,，下面給出四種分類方式,。

1. 監(jiān)督與無監(jiān)督

學(xué)習(xí)涉及學(xué)習(xí)器與環(huán)境之間的互動(dòng)，那么可以根據(jù)這種互動(dòng)的性質(zhì)劃分學(xué)習(xí)任務(wù),。首先需要關(guān)注的是監(jiān)督學(xué)習(xí)與無監(jiān)督學(xué)習(xí)之間的區(qū)別,。

下面以垃圾郵件檢測和異常檢測為例說明。對(duì)于垃圾郵件檢測任務(wù),，學(xué)習(xí)器的訓(xùn)練數(shù)據(jù)是帶標(biāo)簽的郵件（是/否垃圾郵件）,。在這種訓(xùn)練的基礎(chǔ)上,，學(xué)習(xí)器應(yīng)該找出標(biāo)記新電子郵件的規(guī)則。相反,，對(duì)于異常檢測任務(wù),，學(xué)習(xí)器的訓(xùn)練數(shù)據(jù)是大量沒有標(biāo)簽的電子郵件，學(xué)習(xí)器的任務(wù)是檢測出“不尋?！钡南?。

抽象一點(diǎn)來講，如果我們把學(xué)習(xí)看做一個(gè)“利用經(jīng)驗(yàn)獲取技能”的過程,，那么監(jiān)督學(xué)習(xí)正是這樣的一種場景：經(jīng)驗(yàn)是包含顯著信息（是/否垃圾郵件）的訓(xùn)練數(shù)據(jù),，“測試數(shù)據(jù)”缺少這些顯著信息，但可從學(xué)到的“技能”中獲取,。

此種情況下,，獲得的“技能”旨在預(yù)測測試數(shù)據(jù)的丟失信息，我們可以將環(huán)境看做通過提供額外信息（標(biāo)簽）來“監(jiān)督”學(xué)習(xí)器的老師,。然而,，無監(jiān)督學(xué)習(xí)的訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)之間沒有區(qū)別。學(xué)習(xí)器處理輸入數(shù)據(jù)的目標(biāo)是提取概括信息（濃縮數(shù)據(jù)）,。聚類（相似數(shù)據(jù)歸為一類）是執(zhí)行這樣任務(wù)的一個(gè)典型例子,。

還有一種中間情況，訓(xùn)練數(shù)據(jù)比測試數(shù)據(jù)包含更多的信息,，也要求學(xué)習(xí)器預(yù)測更多信息,。舉個(gè)例子，當(dāng)學(xué)習(xí)數(shù)值函數(shù)判斷國際象棋游戲中白棋和黑棋誰更有利時(shí),，訓(xùn)練過程中提供給學(xué)習(xí)器的唯一信息是,，誰在整個(gè)實(shí)際的棋牌類游戲中最終贏得那場比賽的標(biāo)簽。這種學(xué)習(xí)被稱作“強(qiáng)化學(xué)習(xí)”,。

2. 主動(dòng)學(xué)習(xí)器與被動(dòng)學(xué)習(xí)器

學(xué)習(xí)可依據(jù)學(xué)習(xí)器扮演的角色不同分類為“主動(dòng)”和“被動(dòng)”學(xué)習(xí)器,。主動(dòng)學(xué)習(xí)器在訓(xùn)練時(shí)通過提問或?qū)嶒?yàn)的方式與環(huán)境交互，而被動(dòng)學(xué)習(xí)器只觀察環(huán)境（老師）所提供的信息而不影響或引導(dǎo)它,。請(qǐng)注意,，垃圾郵件過濾任務(wù)通常是被動(dòng)學(xué)習(xí)——等待用戶標(biāo)記電子郵件。我們可以設(shè)想,，在主動(dòng)學(xué)習(xí)中,，要求用戶來標(biāo)記學(xué)習(xí)器挑選的電子郵件，以提高學(xué)習(xí)器對(duì)“垃圾郵件是什么”的理解,。

3. 老師的幫助

人類的學(xué)習(xí)過程中（在家的幼兒或在校的學(xué)生）往往會(huì)有一個(gè)良師,，他向?qū)W習(xí)者傳輸最有用的信息以實(shí)現(xiàn)學(xué)習(xí)目標(biāo)。相比之下,，科學(xué)家研究自然時(shí),，環(huán)境起到了老師的作用,。環(huán)境的作用是消極的——蘋果墜落、星星閃爍,、雨點(diǎn)下落從不考慮學(xué)習(xí)者的需求,。

在對(duì)這種學(xué)習(xí)情境建模時(shí)，我們假定訓(xùn)練數(shù)據(jù)（學(xué)習(xí)者的經(jīng)驗(yàn)）是由隨機(jī)過程產(chǎn)生的,，這是統(tǒng)計(jì)機(jī)器學(xué)習(xí)的一個(gè)基本構(gòu)成單元,。此外，學(xué)習(xí)也發(fā)生在學(xué)習(xí)者的輸入是由對(duì)立“老師”提供的,。

垃圾郵件過濾任務(wù)（如果垃圾郵件制作者盡力誤導(dǎo)垃圾郵件過濾器設(shè)計(jì)者）和檢測欺詐學(xué)習(xí)任務(wù)就是這種情況,。當(dāng)不存在更好的假設(shè)時(shí)，我們也會(huì)使用對(duì)立老師這一最壞方案,。如果學(xué)習(xí)器能夠從對(duì)立老師中學(xué)習(xí),，那么遇到任何老師都可以成功。

4. 在線與批量

在線響應(yīng)還是處理大量數(shù)據(jù)后才獲得技能,，是對(duì)學(xué)習(xí)器的另一種分類方式,。舉個(gè)例子，股票經(jīng)紀(jì)人必須基于當(dāng)時(shí)的經(jīng)驗(yàn)信息做出日常決策,。隨著時(shí)間推移,，他或許會(huì)成為專家，但是也會(huì)犯錯(cuò)并付出高昂的代價(jià),。相比之下,，在大量的數(shù)據(jù)挖掘任務(wù)中，學(xué)習(xí)器,，也就是數(shù)據(jù)挖掘器,，往往是在處理大量訓(xùn)練數(shù)據(jù)之后才輸出結(jié)論。

04 與其他領(lǐng)域的關(guān)系

作為一門交叉學(xué)科,，機(jī)器學(xué)習(xí)與統(tǒng)計(jì)學(xué),、信息論、博弈論,、最優(yōu)化等眾多數(shù)學(xué)分支有著共同點(diǎn)。我們的最終目標(biāo)是在計(jì)算機(jī)上編寫程序,，所以機(jī)器學(xué)習(xí)自然也是計(jì)算機(jī)科學(xué)的一個(gè)分支,。在某種意義上，機(jī)器學(xué)習(xí)可以視為人工智能的一個(gè)分支,，畢竟,，要將經(jīng)驗(yàn)轉(zhuǎn)變成專業(yè)知識(shí)或從復(fù)雜感知數(shù)據(jù)中發(fā)現(xiàn)有意義的模式的能力是人類和動(dòng)物智能的基石。

但是,，應(yīng)該注意的是,，與傳統(tǒng)人工智能不同,，機(jī)器學(xué)習(xí)并不是試圖自動(dòng)模仿智能行為，而是利用計(jì)算機(jī)的優(yōu)勢(shì)和特長與人類的智慧相得益彰,。機(jī)器學(xué)習(xí)常用于執(zhí)行遠(yuǎn)遠(yuǎn)超出人類能力的任務(wù),。例如，機(jī)器學(xué)習(xí)程序通過瀏覽和處理大型數(shù)據(jù),，能夠檢測到超出人類感知范圍的模式,。

機(jī)器學(xué)習(xí)（的經(jīng)驗(yàn)）訓(xùn)練涉及的數(shù)據(jù)往往是隨機(jī)生成的。機(jī)器學(xué)習(xí)的任務(wù)就是處理這些背景下的隨機(jī)生成樣本,，得出與背景相符的結(jié)論,。這樣的描述強(qiáng)調(diào)了機(jī)器學(xué)習(xí)與統(tǒng)計(jì)學(xué)的密切關(guān)系。兩個(gè)學(xué)科之間確實(shí)有很多共同點(diǎn),，尤其表現(xiàn)在目標(biāo)和技術(shù)方面,。

但是，兩者之間仍然存在顯著的差別：如果一個(gè)醫(yī)生提出吸煙與心臟病之間存在關(guān)聯(lián)這一假設(shè),，這時(shí)應(yīng)該由統(tǒng)計(jì)學(xué)家去查看病人樣本并檢驗(yàn)假設(shè)的正確性（這是常見的統(tǒng)計(jì)任務(wù)——假設(shè)檢驗(yàn)）,。相比之下，機(jī)器學(xué)習(xí)的任務(wù)是利用患者樣本數(shù)據(jù)找出心臟病的原因,。我們希望自動(dòng)化技術(shù)能夠發(fā)現(xiàn)被人類忽略的,、有意義的模式（或假設(shè)）。

與傳統(tǒng)統(tǒng)計(jì)學(xué)不同,，算法在機(jī)器學(xué)習(xí)中扮演了重要的角色,。機(jī)器學(xué)習(xí)算法要靠計(jì)算機(jī)來執(zhí)行，因此算法問題是關(guān)鍵,。我們開發(fā)算法完成學(xué)習(xí)任務(wù),，同時(shí)關(guān)心算法的計(jì)算效率。兩者的另外一個(gè)區(qū)別是,，統(tǒng)計(jì)關(guān)心算法的漸近性（如隨著樣本量增長至無窮大,，統(tǒng)計(jì)估計(jì)的收斂問題），機(jī)器學(xué)習(xí)理論側(cè)重于有限樣本,。也就是說,，給定有限可用樣本，機(jī)器學(xué)習(xí)理論旨在分析學(xué)習(xí)器可達(dá)到的準(zhǔn)確度,。

機(jī)器學(xué)習(xí)與統(tǒng)計(jì)學(xué)之間還有很多差異,，我們?cè)诖藘H提到了少數(shù)。比如,，在統(tǒng)計(jì)學(xué)中,，常首先提出數(shù)據(jù)模型假設(shè)（生成數(shù)據(jù)呈正態(tài)分布或依賴函數(shù)為線性）；在機(jī)器學(xué)習(xí)中?？紤]“非參數(shù)”背景,，對(duì)數(shù)據(jù)分布的性質(zhì)假設(shè)盡可能地少,，學(xué)習(xí)算法自己找出最接近數(shù)據(jù)生成過程的模型。