機(jī)器之心原創(chuàng) 參與:李澤南
最近,,斯坦福大學(xué)的一名博士畢業(yè)生引起了人們的注意: 在七月初的博士畢業(yè)論文答辯通過(guò)后,他成為第一位僅用三年時(shí)間就獲得了斯坦福大學(xué)計(jì)算機(jī)科學(xué)(CS)博士學(xué)位的人,。不僅如此,,在近日由劍橋大學(xué)研究員 Marek Rei 發(fā)布的一項(xiàng)統(tǒng)計(jì)中,李紀(jì)為博士在最近三年世界所有人工智能研究者中,,以第一作者發(fā)表的頂級(jí)會(huì)議文章數(shù)量高居第一位,。 李紀(jì)為的研究方向是人工智能的一個(gè)重要分支——自然語(yǔ)言處理(NLP),在三年的博士生涯中,,他的多篇論文被各類頂級(jí)會(huì)議接收,。在四月底結(jié)束的 ICLR 2017 上,李紀(jì)為有三篇論文被大會(huì)接收,,其中兩篇為第一作者,;而在即將于 9 月份舉行的 EMNLP 2017 上,他有兩篇論文被大會(huì)接收,,均為第一作者。 在李博士畢業(yè)之后,,機(jī)器之心第一時(shí)間聯(lián)系到了他,,并對(duì)其進(jìn)行了獨(dú)家專訪。在本次采訪中,,我們談到了李博士求學(xué)期間的心路歷程,、在斯坦福大學(xué)階段的自然語(yǔ)言處理研究和生活,以及他對(duì)于未來(lái)事業(yè)的展望,。 李紀(jì)為(左)近日接受了機(jī)器之心的專訪 生物與計(jì)算機(jī)科學(xué) 機(jī)器之心:恭喜你順利博士畢業(yè),,在斯坦福大學(xué)三年 CS 博士畢業(yè),這是一個(gè)前無(wú)古人的成就,。 李紀(jì)為:謝謝你,。這么說(shuō)過(guò)獎(jiǎng)了,實(shí)在不敢當(dāng),。讀博士而言,,產(chǎn)出比時(shí)間更重要,這幾年里斯坦福,、CMU,、Facebook AI Research 和 MSR 的同事和導(dǎo)師,就像一個(gè)巨大的寶庫(kù),,有無(wú)窮無(wú)盡的東西可以像大家學(xué)習(xí),。博士雖然讀完了,,但是學(xué)無(wú)止境。如果說(shuō)做出了點(diǎn)什么東西,,那也是向大家學(xué)習(xí)而得的結(jié)果,。 機(jī)器之心:你是如何做到僅用三年時(shí)間就從斯坦福大學(xué)畢業(yè)的?要知道,,在美國(guó)的大學(xué)里,,博士畢業(yè)通常需要 5-6 年(甚至更長(zhǎng)時(shí)間)。 李紀(jì)為:從斯坦福大學(xué)三年畢業(yè)的過(guò)程實(shí)際上是一系列因素共同促成的結(jié)果,。首先,,我得感謝自己的導(dǎo)師 Dan Jurafsky,他對(duì)我的幫助非常大,,他總是能夠理解我的訴求,,并盡力幫助我,他是一個(gè)永遠(yuǎn)為他人著想的好導(dǎo)師,。 同時(shí),,我得說(shuō)這實(shí)際上并不是一個(gè)非常特別的成就,更像一種個(gè)人選擇,。其實(shí)朋友同學(xué)中很多人都非常非常優(yōu)秀的,,比如斯坦福大學(xué)的 Danqi Chen、Sida Wang,、曾經(jīng) CMU 的博士生 William Wang 等等,。他們或是尋求完成更多的研究,或是傾向于畢業(yè)參與教職工作而沒(méi)有選擇提前畢業(yè),。 若想博士畢業(yè),,你需要有一篇足夠完美的畢業(yè)論文,在其中敘述你博士期間所做的一切工作,。另外,,還有一系列任務(wù)是必須要完成的:你需要修完足夠的課程,通過(guò)博士生資格考試,,完成畢業(yè)論文的開(kāi)題,、結(jié)題。 機(jī)器之心:你有著有趣的學(xué)術(shù)背景:在 2012 年從北京大學(xué)生物學(xué)畢業(yè),,是什么原因讓你選擇去斯坦福大學(xué)讀計(jì)算機(jī)科學(xué)的博士,? 李紀(jì)為:我在北大生科的時(shí)候,做畢業(yè)設(shè)計(jì)的時(shí)候去了計(jì)算機(jī)系的李素建老師組里,。當(dāng)時(shí)想了解一點(diǎn)人工智能的東西,,用在生物信息處理上,所以就去旁聽(tīng)了李老師的組會(huì),。發(fā)現(xiàn)了大家在探討很多很有趣的問(wèn)題,,于是在李老師的指導(dǎo)下動(dòng)手做了一些實(shí)驗(yàn),。興趣就慢慢轉(zhuǎn)移到人工智能,特別是自然語(yǔ)言處理這方面,。斯坦福大學(xué)在自然語(yǔ)言處理上有深厚的積淀,,老師和學(xué)生們都是領(lǐng)域內(nèi)的佼佼者,而且因?yàn)榕徆韫?,?chuàng)業(yè)氛圍濃厚,,與工業(yè)界關(guān)系密切,產(chǎn)學(xué)研緊密結(jié)合,,是個(gè)難得的平臺(tái),。 機(jī)器之心:我們得知你在本科期間曾經(jīng)參加過(guò)「分子模擬與計(jì)算課題組」,這個(gè)領(lǐng)域算是生物和計(jì)算的交叉領(lǐng)域(分子模擬,,是指利用理論方法與計(jì)算技術(shù),,模擬或仿真分子運(yùn)動(dòng)的微觀行為,廣泛的應(yīng)用于計(jì)算化學(xué),,計(jì)算生物學(xué),,材料科學(xué)領(lǐng)域,小至單個(gè)化學(xué)分子,,大至復(fù)雜生物體系或材料體系都可以是它用來(lái)研究的對(duì)象,。),這個(gè)經(jīng)歷對(duì)其后選擇讀計(jì)算機(jī)科學(xué)有什么影響嗎,? 李紀(jì)為:不同領(lǐng)域的思維方式差別很大,,即便是類似的問(wèn)題,出發(fā)點(diǎn)和解決方案都不一樣,。所以機(jī)遇和挑戰(zhàn)是并存的,。在挑戰(zhàn)上,,你需要適應(yīng)新的學(xué)科在研究手段的不同,,這種不同的領(lǐng)域的訓(xùn)練可能會(huì)避免思維上的固化。機(jī)遇當(dāng)然也很多,,新的思維方式也能帶來(lái)新的突破,。 機(jī)器之心:生物和計(jì)算機(jī)科學(xué),兩個(gè)專業(yè)的研究氛圍有哪些異同,? 李紀(jì)為:生物和計(jì)算機(jī)都是非常有前景的方向,,也都發(fā)展很快。在生物領(lǐng)域中,,例如基因測(cè)序,,有大量的大小創(chuàng)業(yè)公司正如雨后春筍一般地涌現(xiàn)。同時(shí),,AI 與生物如今的結(jié)合也愈發(fā)地緊密,,比如大量的基于醫(yī)療的人工智能公司的出現(xiàn),。 二者比較起來(lái),在計(jì)算機(jī)領(lǐng)域,,學(xué)術(shù)界和工業(yè)界的關(guān)系更密切,,新的問(wèn)題也在不斷涌現(xiàn),新的理論和方法不斷被采納并得到實(shí)踐的檢驗(yàn),。大家對(duì)新生的觀點(diǎn)和方法接受更快,,比如深度學(xué)習(xí),短短幾年就橫掃整個(gè)領(lǐng)域,,在學(xué)術(shù)界和工業(yè)界中獲得了廣泛應(yīng)用,。這種緊密結(jié)合對(duì)促進(jìn)技術(shù)進(jìn)步和新技術(shù)普及很有幫助。另外一點(diǎn)就是在計(jì)算機(jī)領(lǐng)域里,,大家更愿意分享自己的研究結(jié)果,,推動(dòng)技術(shù)共同進(jìn)步。很多作者不光把自己的代碼開(kāi)源,,還寫出很詳細(xì)的教程耐心指導(dǎo)大家如何重現(xiàn)實(shí)驗(yàn)結(jié)果,。這對(duì)于新人的成長(zhǎng)和知識(shí)的分享都有很大的幫助。 機(jī)器之心:在計(jì)算機(jī)科學(xué)中,,你為什么會(huì)選擇自然語(yǔ)言處理(NLP)領(lǐng)域,? 李紀(jì)為:語(yǔ)言是一種非常奇妙的現(xiàn)象,到現(xiàn)在我們都很難洞察其本質(zhì),。自然語(yǔ)言處理上的一點(diǎn)點(diǎn)的進(jìn)展都能對(duì)我們的生活,,以及我們對(duì)自身和世界的認(rèn)識(shí)產(chǎn)生巨大的推動(dòng)。比如語(yǔ)言識(shí)別,、搜索,、對(duì)話系統(tǒng)等,讓我們的日常生活便利很多,。我喜歡迎接這種挑戰(zhàn),,同時(shí)也想為我們的生活作出一點(diǎn)小貢獻(xiàn)。 選擇 機(jī)器之心:有關(guān)選擇的問(wèn)題,,對(duì)于希望在機(jī)器學(xué)習(xí)方向發(fā)展的人來(lái)說(shuō),,如何判斷自己適合去讀一個(gè)博士學(xué)位? 李紀(jì)為:首先你要對(duì)自己研究的領(lǐng)域有很大的熱情,。讀博從整體來(lái)看是一個(gè)艱辛的過(guò)程,,其中有很多起起伏伏。在做科研的歷程中,,大約八成時(shí)間的工作是沒(méi)有結(jié)果的——你做出努力但沒(méi)有得到相應(yīng)的回報(bào),,這樣的失敗相信每個(gè)研究者都經(jīng)歷過(guò)很多。這要求你對(duì)自己參與的領(lǐng)域非常有興趣,保持熱情,,這樣才適合讀博士,。 另外,讀博期間,,讓你分心的事情有很多,。用金錢來(lái)衡量的話,讀博在很多情況下得到的收益要比讀完碩士出來(lái)工作要小,。但讀博讓你可以攀上這個(gè)領(lǐng)域的最前沿,,去做別人沒(méi)做過(guò)的事情,你要和未知的事物打交道,,探索沒(méi)人走過(guò)的天地,。 最后,在選擇讀博之前,,需要審視一下自己的性格,。就像你眼前一條河,旁邊其實(shí)有一座橋,,但你依然愿意選擇摸著石頭過(guò)河,。這樣一來(lái),當(dāng)你下次遇見(jiàn)沒(méi)有橋的河時(shí),,你依然可以從容地渡河,。另外一個(gè)比方,讀博就像置身一個(gè)荒島之中——很多時(shí)候你需要在一點(diǎn)線索都沒(méi)有的情況下學(xué)習(xí)從零開(kāi)始如何生存:怎么砍柴、如何打獵、怎樣生活……做研究也是這樣,,你需要學(xué)會(huì)自己摸索。當(dāng)你拿到了一個(gè)問(wèn)題時(shí),,你要學(xué)會(huì)如何找到相關(guān)研究者交流,如何查找文獻(xiàn),,如何辨別你自己的哪些 idea 是靠譜的可行的,。你也需要知道別人做到了什么程度,你的研究是否可以在此基礎(chǔ)上提高等等,。這其實(shí)是一個(gè)從無(wú)到有的過(guò)程,。大多數(shù)時(shí)間,,當(dāng)你在做一個(gè) project 時(shí)(這大概需要三個(gè)月的時(shí)間),,你會(huì)發(fā)現(xiàn)在前一兩個(gè)月自己都會(huì)處于撓頭階段——你會(huì)一點(diǎn)思路也沒(méi)有。然后在無(wú)意間,,你突然有了思路,,你的研究就隨之豁然開(kāi)朗了。 這就引出了有關(guān)讀博的意義的問(wèn)題,。大多數(shù)人在博士畢業(yè)之后實(shí)際上是不會(huì)繼續(xù)純研究工作的(如在大學(xué)里當(dāng)教授),。讀博的最大意義也不在于你在學(xué)習(xí)和研究的過(guò)程中發(fā)表了多少篇論文,,解決了多少特定的問(wèn)題。更重要的是,,你可以在這個(gè)過(guò)程中學(xué)會(huì)一種解決問(wèn)題的方法,。如果希望在探索中尋求自我實(shí)現(xiàn),那么你就是適合讀博的,。 機(jī)器之心:把時(shí)間回放到讀博之前,,一名臨近畢業(yè)的學(xué)生應(yīng)該怎樣選擇讀博的學(xué)校與適合自己的導(dǎo)師? 李紀(jì)為:選擇學(xué)校與導(dǎo)師需要考慮很多方面,,我認(rèn)為其中最重要的就是導(dǎo)師,。 選擇導(dǎo)師要比選擇學(xué)校更加重要。在美國(guó)有很多計(jì)算機(jī)科學(xué)很強(qiáng)的學(xué)校,,但它們的排名并非很高——即使是在排名六七十的學(xué)校里仍然有非常厲害的導(dǎo)師,,甚至圖靈獎(jiǎng)得主。在選導(dǎo)師的時(shí)候,,我認(rèn)為:善解人意是第一位的,,它的意義要甚至高于導(dǎo)師的學(xué)術(shù)水平。在讀博過(guò)程中,,你會(huì)發(fā)現(xiàn)比較艱辛,,因?yàn)榇蠖鄶?shù)的科研項(xiàng)目是以失敗告終的,所以保持健康的心態(tài)是很重要的,。最近有一個(gè)調(diào)查顯示,,很大一部分的在讀博士都有抑郁、情緒低落的問(wèn)題,。在這種情況下,,老師 nice 的程度就變得更加重要了,他/她最好是一個(gè)可以支持你的人,。保持身心健康愉悅是能夠完成更多研究的最近本前提條件,。我很幸運(yùn)遇見(jiàn)了 Dan Jurafsky 這樣的導(dǎo)師。 好的導(dǎo)師并不意味著他/她能夠輕松幫你解決代碼中的 bug,,而是意味著他可以會(huì)幫助你設(shè)計(jì)自己的學(xué)術(shù)生涯,,在選擇工作時(shí)能夠?yàn)槟氵M(jìn)行把關(guān)。在我讀博的第一年時(shí),,我去了微軟研究院,。而在第二年時(shí),我的導(dǎo)師 Dan Jurafsky 告訴我:「微軟當(dāng)然很好,,但你最好去另外一個(gè)地方,,感受另一種氛圍,去學(xué)更多的東西?!褂谑俏胰チ?Facebook,。導(dǎo)師對(duì)你學(xué)術(shù)生涯的方向會(huì)比你看得更清楚一些。 你也需要關(guān)注你所感興趣的組里面的學(xué)術(shù)氛圍,。有很多時(shí)候,,導(dǎo)師是處于忙碌狀態(tài)中的,你無(wú)法苛責(zé)他/她能夠幫你把關(guān)研究中的所有細(xì)節(jié),。但一個(gè)好的導(dǎo)師可以讓研究組里呈現(xiàn)一種健康的環(huán)境,,大家互相學(xué)習(xí)、互相討論,,主動(dòng)分享自己的觀點(diǎn),。想想高年級(jí)的博士生,他們每天都在做這樣的工作,,他們肯定對(duì)前沿問(wèn)題的原因,、技術(shù)細(xì)節(jié)有很深刻的見(jiàn)解,研究組中融洽的氛圍可以讓你更好地向他們學(xué)習(xí),。 在斯坦福大學(xué),,我很幸運(yùn)地可以在這樣的環(huán)境中成長(zhǎng)。在這里,,可以從老師同學(xué)身上學(xué)到無(wú)數(shù)的東西,,小到代碼調(diào) bug,大到科研方向,。當(dāng)我在低年級(jí)遇到了問(wèn)題向一個(gè)學(xué)長(zhǎng)求助時(shí),,他可以立刻放下手里的工作和我探討一個(gè)下午。 一個(gè)好的導(dǎo)師要有足夠的管理能力,,可以讓自己的研究組和諧地向前發(fā)展,。 機(jī)器之心:能否談?wù)勀阍谒固垢F陂g的導(dǎo)師 Dan Jurafsky? 李紀(jì)為:Dan 不僅是我的導(dǎo)師,,也是我的偶像,。他學(xué)術(shù)水平很高,我剛?cè)腴T自然語(yǔ)言處理時(shí)候就讀過(guò)他的那本經(jīng)典著作,,《Speech and Language Processing》,。他還寫了本很有趣的《食物語(yǔ)言學(xué)》。Dan 早年有過(guò)工業(yè)界經(jīng)歷,,在上世紀(jì)九十年代初,,他就開(kāi)始在語(yǔ)音方面運(yùn)用神經(jīng)網(wǎng)絡(luò)模型。他很善于把研究和實(shí)際問(wèn)題結(jié)合起來(lái),。在他指導(dǎo)下,,我的研究往往從實(shí)際任務(wù)出發(fā),從小問(wèn)題出發(fā),,而后歸納總結(jié)到一般性,、本質(zhì)性的問(wèn)題上。Dan 的這一點(diǎn)對(duì)我影響很大,,科研要和實(shí)踐相結(jié)合,,要專注于解決問(wèn)題。 在研究上,,他對(duì)于學(xué)生的支持幾乎是全方位的,,我現(xiàn)在回想有曾經(jīng)很多不靠譜的科研課題,他也會(huì)鼓勵(lì)你去探索,。在失敗中也獲得寶貴的經(jīng)驗(yàn),,這一點(diǎn)在科研上我受益真的非常大。 機(jī)器之心:在研究中,,是導(dǎo)師推動(dòng)你,,還是你推動(dòng)導(dǎo)師? 李紀(jì)為:這應(yīng)該是一個(gè)互相推動(dòng)的過(guò)程,,導(dǎo)師在你的研究中會(huì)為你定下一個(gè)大方向,。如果你走入了錯(cuò)誤的方向,他會(huì)站出來(lái)告訴你及時(shí)脫身,。 在我的研究過(guò)程中有這樣一個(gè)例子,。我曾經(jīng)試圖從語(yǔ)音入手設(shè)計(jì)情感分析模型,希望從人們的語(yǔ)調(diào)中分析人的話語(yǔ)中包含了正能量還是負(fù)能量,。以往,,大多數(shù)研究通常是先進(jìn)行語(yǔ)音-文字轉(zhuǎn)錄,然后通過(guò)機(jī)器學(xué)習(xí)對(duì)文字進(jìn)行情感分析,。Dan Jurafsky 很早就知道這個(gè)思路難以實(shí)現(xiàn),,但他給了我一個(gè)多月的時(shí)間進(jìn)行自由探索。在這個(gè)過(guò)程中,,我學(xué)會(huì)了很多 speech 方面的工具和模型,,也了解了這個(gè)方向的困難程度。后來(lái),,他及時(shí)告訴了我應(yīng)該尋找其他方向的研究,。這就是一個(gè)好的導(dǎo)師應(yīng)該做到的事:給你足夠的自由探索空間,同時(shí)幫助你把握大體方向,。 Dan Jurafsky 有一句話給我的印象很深:「我當(dāng)了這么多年的教授,,從自己的學(xué)生身上學(xué)到的東西是最多的?!挂?yàn)椴煌膶W(xué)生會(huì)有各自不同的方向,,并在研究過(guò)程中成為不同領(lǐng)域的專家,。在這個(gè)過(guò)程中,導(dǎo)師也會(huì)獲得很多新的知識(shí),。Dan 在看到一些學(xué)生的研究時(shí),,會(huì)深入了解其中的技術(shù)細(xì)節(jié),他是一個(gè)非常謙遜的人,,我非常崇敬他,。 研究心得 機(jī)器之心:你認(rèn)為自然語(yǔ)言處理(NLP)領(lǐng)域的研究目前面臨的最大挑戰(zhàn)是什么? 李紀(jì)為:說(shuō)實(shí)話,,挑戰(zhàn)很多,,但發(fā)展同樣很快,這才是這個(gè)領(lǐng)域讓人著迷的地方,。我覺(jué)得有一點(diǎn)是無(wú)結(jié)構(gòu)的知識(shí)如何結(jié)構(gòu)化,。比如人們的 common sense 知識(shí),事件背景等,,很難用統(tǒng)一的方式表示出來(lái),,distributed representations 給了一個(gè)全新的表述方式,但還有很多很多方面需要提高,。另外如何找到有用的信息,,難度也很大。不過(guò)無(wú)限風(fēng)光在險(xiǎn)峰,,這也是這個(gè)領(lǐng)域讓人著迷的原因之一,。 機(jī)器之心:你有哪一篇/哪幾篇論文稱得上「最」呢?比如寫作過(guò)程最艱難,、成就感最強(qiáng),、最令你滿意? 李紀(jì)為:我最喜歡的是 Dialogue Learning With Human-in-the-Loop,。這是我在 Facebook 研究院工作時(shí)候所做的一個(gè)工作,。這篇論文里的工作,科研和實(shí)踐結(jié)合非常緊密,,里面提出的算法在 facebook 產(chǎn)品中得到了一定程度的應(yīng)用,。這個(gè)過(guò)程中,我也體會(huì)到了學(xué)術(shù)界和業(yè)界的相通和不同之處,。比如開(kāi)發(fā)產(chǎn)品時(shí)候要從用戶考慮,,分析使用場(chǎng)景等等,這是學(xué)術(shù)研究里面遇不到的挑戰(zhàn),,這樣的經(jīng)歷十分有趣,。 機(jī)器之心:你最近的研究方向是? 李紀(jì)為:最近研究的是對(duì)話系統(tǒng)以及跟對(duì)話相關(guān)的交互問(wèn)答系統(tǒng),。對(duì)話系統(tǒng)難度很大,,但是很有意思,,如何讓自然語(yǔ)言處理能夠理解人的意思,像人一樣和人交流,,這是個(gè)極大的挑戰(zhàn),,也是自然語(yǔ)言處理的終極目的之一。現(xiàn)在的研究提出了很多的讓人耳目一新的理論假設(shè),,以及設(shè)計(jì)了很多新穎的機(jī)器學(xué)習(xí)模型,,發(fā)展非???,同時(shí)又有很多的新的問(wèn)題涌現(xiàn),需要解決,。我最近在研究垂直領(lǐng)域的對(duì)話系統(tǒng),,比如智能客服上實(shí)現(xiàn)高水平的應(yīng)用,讓人感受到這種智能的切實(shí)存在,,感受到自然語(yǔ)言處理領(lǐng)域的巨大進(jìn)步,。 機(jī)器之心:在 arXiv 上和 Google Scolar 上我們可以看到你在博士期間發(fā)表了多篇論文,其中一些被各類機(jī)器學(xué)習(xí)頂級(jí)會(huì)議接收,,而且很多篇論文都是第一作者,。在研究時(shí),你是如何同時(shí)處理多項(xiàng)不同工作的,? 李紀(jì)為:開(kāi)展多項(xiàng)工作雖然時(shí)間上比較緊張,,但是很有好處,一個(gè)問(wèn)題上卡住了,,可以切換到另一個(gè)問(wèn)題上繼續(xù)研究,,而一個(gè)問(wèn)題上的進(jìn)展很可能可以帶動(dòng)另一個(gè)問(wèn)題的解決。另外我認(rèn)為很重要的一點(diǎn)就是,,科研題目上還是失敗的例子更多一些,。如果工作并行進(jìn)行,當(dāng)一個(gè)工作失敗的時(shí)候,,不會(huì)特別的沮喪,。 機(jī)器之心:如何平衡生活與工作呢? 李紀(jì)為:讀博士更像一個(gè)馬拉松,,而不是百米沖刺,。協(xié)調(diào)好生活和工作很重要。生活里面,,運(yùn)動(dòng)和娛樂(lè)也占了很大比例,,假期的時(shí)候也會(huì)出去玩兒或者度假。另外我也經(jīng)常和研究者多多溝通交流,,并且常常能聊出一些很好的 idea,。 機(jī)器之心:談?wù)劷o后輩的建議,。作為一名在讀博士,應(yīng)該如何參加學(xué)術(shù)會(huì)議,? 李紀(jì)為:我認(rèn)為最重要的事情就是經(jīng)常把自己從 comfort zone 推出來(lái),。要不斷探索新的技術(shù)和方向。學(xué)術(shù)會(huì)議上要多關(guān)注那些自己不熟悉的領(lǐng)域,。比如你是做問(wèn)答系統(tǒng)的,,要多多與機(jī)器翻譯或者句法分析的人交流,這樣會(huì)常常有意想不到的收獲,。除此之外,,也多和不同背景,比如工業(yè)界的研究人員溝通,,這樣有助于開(kāi)拓自己的視野,。另外就計(jì)算機(jī)領(lǐng)域而言,在工業(yè)界的實(shí)習(xí)我認(rèn)為也很重要,。 機(jī)器之心:在此前的 GMIS 2017 大會(huì)中,,我們現(xiàn)場(chǎng)感受了來(lái)自 UC Berkeley 的 Stuart Russel 和吳翼的精彩演講。美國(guó)的頂級(jí)大學(xué)是否非常注重學(xué)生和老師的演講能力,,是否在學(xué)習(xí)期間也有相應(yīng)的培養(yǎng)體系,? 李紀(jì)為:吳翼是我的好朋友,NIPS best paper 得主,,各方面能力非常優(yōu)秀(笑),,我從他身上也學(xué)到了很多。在斯坦福大學(xué),,教授們非常重視培養(yǎng)學(xué)生的演講能力,。我的導(dǎo)師 Dan Jurafsky 在每次我去大會(huì)作報(bào)告之前都會(huì)先和我預(yù)演一遍,即使他每天的工作都很忙,。當(dāng)然,,這也和個(gè)人性格有關(guān)。 機(jī)器之心:如何寫好一篇研究論文,? 李紀(jì)為:我以前都是在實(shí)驗(yàn)做完以后再開(kāi)始寫論文的——在 Deadline 之前幾天開(kāi)始奮戰(zhàn),,其實(shí)這樣效果并不是很好。我曾經(jīng)合作過(guò)的一名學(xué)者——現(xiàn)任俄亥俄州立大學(xué)助理教授的 Alan Ritter——他給我的建議是:在做 Project 之前要先開(kāi)始動(dòng)筆寫,。你所寫的內(nèi)容可以是一個(gè)簡(jiǎn)述,,你需要查找相關(guān)工作并事先寫好,把模型的形式介紹一下,。在 NLP 領(lǐng)域中,,會(huì)議的論文通常需要 8 頁(yè),在你真正動(dòng)手之前最好寫出三頁(yè)來(lái),。 這是一件非常有意義的事,,首先,,它督促你尋找類似方向的工作,以免做到一半才發(fā)現(xiàn)已經(jīng)有同樣的工作被別人完成了,。第二,,它可以幫助你縷清思路:這篇論文的創(chuàng)新之處在哪里?它和前人的研究有哪些不同,?在這個(gè)思考過(guò)程中,,隨后實(shí)驗(yàn)的思路就非常清晰了。 當(dāng)然,,這種寫了三頁(yè)的草稿我也放棄了很多,,有的是因?yàn)閷懥艘话耄銜?huì)發(fā)覺(jué)無(wú)法說(shuō)服自己,;有的則是因?yàn)槟惆l(fā)現(xiàn)自己設(shè)計(jì)的模型并不好用,。 在做實(shí)驗(yàn)的過(guò)程中,,可以對(duì)之前的三頁(yè)內(nèi)容不斷修改,。在這個(gè)過(guò)程中,論文就逐漸成型了(5-6 頁(yè)),。在實(shí)驗(yàn)結(jié)束后,,將數(shù)據(jù)和圖表加入到文章中,再進(jìn)行一些修改,,論文就完成了,。 除此之外,我們的導(dǎo)師常說(shuō):在寫論文的時(shí)候,,你要經(jīng)常問(wèn) why,?而不是 how?不要試圖向讀者解釋你是如何做到的,,要向他們展示你是為什么要這樣做的,。學(xué)者要時(shí)時(shí)刻刻把這種思路放在腦中。很多時(shí)候,,你會(huì)發(fā)現(xiàn)不同的人會(huì)發(fā)表類似的研究,,但強(qiáng)調(diào)動(dòng)機(jī)(motivation)的那一篇通常影響力會(huì)更大。 機(jī)器之心:你在研究期間和很多其他公司,、大學(xué)的學(xué)者有過(guò)交流,,你認(rèn)為斯坦福大學(xué)的風(fēng)格和 CMU 等其他學(xué)府有什么不同? 李紀(jì)為:斯坦福和 CMU 學(xué)術(shù)上都很強(qiáng),。斯坦福背靠硅谷,,有極其濃厚的工業(yè)以及創(chuàng)業(yè)環(huán)境。在這里更好地提高自己的眼界以及認(rèn)識(shí)人們的需求,。當(dāng)然,,與此同時(shí),,分心的事情也比較多。要把握好這種 trade off,。CMU 的環(huán)境相對(duì)更單純一點(diǎn),,更加專注于研究。 機(jī)器之心:你認(rèn)為私人公司或私人設(shè)立的研究機(jī)構(gòu)(比如 OpenAI)做 AI 研究的優(yōu)勢(shì)和劣勢(shì)是什么,?大學(xué)的優(yōu)勢(shì)和劣勢(shì)又在哪里,? 李紀(jì)為:企業(yè)里面有很好的資源,有大量的數(shù)據(jù)和優(yōu)秀的研究員,,研究和實(shí)際應(yīng)用結(jié)合緊密,。大學(xué)也有自己的優(yōu)勢(shì),科研活動(dòng)更純粹一點(diǎn),,有利于一些基礎(chǔ)性的研究的開(kāi)展?,F(xiàn)在企業(yè)和大學(xué)的溝通交流非常頻繁順暢,這也給我們提供了更廣闊的視野和平臺(tái),。兩者相輔相成,,更加進(jìn)步。這樣在計(jì)算機(jī)乃至很多行業(yè)的發(fā)展史上似乎是絕無(wú)僅有的,,所以我感覺(jué),,我們有幸趕上了一個(gè)好時(shí)代。 市場(chǎng)與創(chuàng)業(yè) 機(jī)器之心:說(shuō)到畢業(yè)后的方向,,你會(huì)投入學(xué)界還是業(yè)界,?據(jù)說(shuō),現(xiàn)在的人才都愿意影響世界,,如果投身業(yè)界的話,,你想去公司的研究機(jī)構(gòu)還是產(chǎn)品部門? 李紀(jì)為:去業(yè)界的可能性大一些,。讀博士的幾年,,我真真切切地感受到技術(shù)如何改變世界,如果自己的工作能給人們帶來(lái)看得見(jiàn)摸得著的便利,,哪怕是一點(diǎn)點(diǎn),,自己的內(nèi)心也會(huì)得到很大的滿足。 斯坦福大學(xué)有一種創(chuàng)業(yè)的氛圍,,由于靠近硅谷,,所以很多同學(xué)們都傾向于創(chuàng)業(yè)(如果傾向于投身業(yè)界,人們會(huì)傾向于更早畢業(yè),;如果希望做成更多的研究,,或畢業(yè)任教職,則會(huì)傾向于保持足夠長(zhǎng)的博士生涯),或許這也潛移默化地影響了我的選擇,。 機(jī)器之心:你會(huì)傾向于在國(guó)內(nèi)還是國(guó)外發(fā)展,? 李紀(jì)為:回國(guó)的可能性更大一些。出國(guó)幾年,,發(fā)現(xiàn)國(guó)內(nèi)的變化真是日新月異,。每一次回國(guó),都感覺(jué)自己落后了,。置身于這樣的大潮中,,每個(gè)人都有想要做點(diǎn)事情的沖動(dòng)。國(guó)內(nèi)有人工智能這方面的需求,,如果能夠切身地給他人的生活帶來(lái)哪怕一點(diǎn)點(diǎn)的便利,,那真的再好不過(guò)了。 機(jī)器之心:在亞馬遜 Alxea 開(kāi)創(chuàng)了新市場(chǎng)之后,,最近阿里也推出了自己的智能音箱,,你是如何看待智能語(yǔ)音市場(chǎng)激烈角逐的? 李紀(jì)為:我覺(jué)得這可能是下一個(gè)的互聯(lián)網(wǎng)入口,,有可能將引領(lǐng)新一代的交互方式,。我們已經(jīng)切身地體會(huì)到這些為生活帶來(lái)的便利。不從技術(shù)層面來(lái)講這又是一個(gè)很難的問(wèn)題,,有很多問(wèn)題急需解決,。這是一片廣闊的天地,,需要無(wú)數(shù)研究者的共同投入,,開(kāi)啟下一個(gè)智能交互的新時(shí)代。 機(jī)器之心:如何看待目前科技界的人才流動(dòng),,比如 AI 大神被國(guó)內(nèi)外科技巨頭瘋搶,?學(xué)習(xí)期間有公司接觸過(guò)你嗎? 李紀(jì)為:工業(yè)界和學(xué)術(shù)界這種互動(dòng)能促進(jìn)雙方的交流,,有助于業(yè)界和科研界雙方的進(jìn)步,。當(dāng)下讀博士階段在企業(yè)里面實(shí)習(xí)早已是一個(gè)非常非常普遍的現(xiàn)象。我和美國(guó)以及國(guó)內(nèi)的一些企業(yè)都有接觸,,包括與曾經(jīng)實(shí)習(xí)過(guò)的公司保持著學(xué)術(shù)上的溝通,,也探討了在業(yè)界展開(kāi)合作的可能。 機(jī)器之心:也有一些非常棒的人才,,執(zhí)意選擇創(chuàng)業(yè)(比如 Clarifai 的 Matthew Zeiler),,你會(huì)有創(chuàng)業(yè)的打算嗎?如果創(chuàng)業(yè),,你會(huì)考慮哪些因素,?最吸引你的應(yīng)用場(chǎng)景是什么? 李紀(jì)為:如果有合適的機(jī)會(huì),創(chuàng)業(yè)當(dāng)然非常有可能,。我覺(jué)得智能會(huì)話系統(tǒng),,語(yǔ)音交互系統(tǒng),問(wèn)答系統(tǒng)等等都是很好的的方向,,也有很廣泛的應(yīng)用,,而且技術(shù)上也有著極大的挑戰(zhàn)性。 本文為機(jī)器之心原創(chuàng),,轉(zhuǎn)載請(qǐng)聯(lián)系本公眾號(hào)獲得授權(quán),。 ?------------------------------------------------ 加入機(jī)器之心(全職記者/實(shí)習(xí)生):[email protected] 投稿或?qū)で髨?bào)道:[email protected] 廣告&商務(wù)合作:[email protected] |
|
來(lái)自: 學(xué)習(xí)雪雪 > 《見(jiàn)識(shí)》