作者:naiyan wang (weibo:@winsty homepage:http://winsty.net/)
小編: 本文是港科大博士@winsty 受小編之邀在博士畢業(yè)之際分享的一個(gè)個(gè)人總結(jié)。他的研究興趣是計(jì)算機(jī)視覺(jué)和數(shù)據(jù)挖掘,博士期間發(fā)表多篇高質(zhì)量的論文。文中的問(wèn)題和解答都出自winsty之手,作者非常真誠(chéng)地分享了自己四年來(lái)的經(jīng)驗(yàn)和心得,是小編看過(guò)最干貨的求學(xué)經(jīng)驗(yàn)分享文章,非常值得推薦給大家。
說(shuō)明:本文版權(quán)歸作者所有,如需轉(zhuǎn)載請(qǐng)聯(lián)系作者 @winsty (Email: winsty@gmail.com)
經(jīng)常會(huì)有同學(xué)來(lái)問(wèn)我關(guān)于PhD學(xué)習(xí)的問(wèn)題,接著這個(gè)機(jī)會(huì)把這些零碎的問(wèn)題都整理起來(lái),也算是對(duì)四年P(guān)hD學(xué)習(xí)的一個(gè)交待。
問(wèn)題一:什么是PhD?
相信很多同學(xué)在最開(kāi)始入學(xué)時(shí)候的一個(gè)疑問(wèn)就是,為什么我學(xué)的是XX專(zhuān)業(yè),但是我最后的學(xué)位叫做哲學(xué)博士(Doctor of Philosophy)?這個(gè)誤解大多是源于對(duì)Philosophy的誤解。我很推崇在coursera課程Introduction to Philosophy的第一節(jié)課中的定義:Philosophy is the activity of working out the right way of thinking about things. 如果能正確理解這句話(huà),那么PhD的意義就十分明了:習(xí)得專(zhuān)業(yè)知識(shí)只是PhD學(xué)習(xí)中的一部分,更重要的是面對(duì)一個(gè)未知的問(wèn)題時(shí),不慌不亂,梳理出問(wèn)題的邏輯,并有一套科學(xué)的方法去分析。這也就是為什么經(jīng)常會(huì)說(shuō)贏家通吃的原因。這一點(diǎn)在下一個(gè)問(wèn)題中具體展開(kāi)講。在此,我也特別推薦兩門(mén)coursera的課程,我覺(jué)得可以作為每個(gè)PhD 101課程:Introduction to Philosophyhttps://www.coursera.org/learn/philosophy 和 Philosophy and the Sciencehttps://www.coursera.org/course/philsci
問(wèn)題二:讀PhD期間應(yīng)該習(xí)得最重要的能力是什么?
這里不談具體的技術(shù),因?yàn)槊總€(gè)學(xué)科,甚至就算是CS下面的子領(lǐng)域,對(duì)于具體技術(shù)的需要也相距甚遠(yuǎn)。但是一些共通的能力包括:
- 定義問(wèn)題的能力:說(shuō)得高大上一些,PhD的使命是開(kāi)拓人類(lèi)知識(shí)的荒野,所以只去解決一些已有問(wèn)題并不是PhD全部的意義
說(shuō)得接地氣一些,畢業(yè)之后的工作中,并不是每個(gè)問(wèn)題都有明確的定義,可能我們拿到的只是一個(gè)定性描述的需求。那么我們需要:1)定義這個(gè)問(wèn)題的輸入輸出; 2)定義預(yù)期結(jié)果和milestone 3)把定性描述的內(nèi)容通過(guò)嚴(yán)謹(jǐn)定量的形式表述出來(lái)。 - 分析負(fù)面結(jié)果的能力:我十分厭惡的一點(diǎn)就是,在本科的各種實(shí)驗(yàn)課中,實(shí)驗(yàn)報(bào)告中只允許有成功和預(yù)期的結(jié)果,而不允許出現(xiàn)失敗的結(jié)果,并輔以足夠的分析。在這種模式下,大部分學(xué)生都喪失了分析負(fù)面結(jié)果的能力,往往遇到不如預(yù)期的結(jié)果就毫無(wú)頭緒,完全不知從何下手。而往往負(fù)面結(jié)果才是我們?cè)趓esearch中最經(jīng)常遇到的情況。通過(guò)合理假設(shè)、推理、實(shí)驗(yàn)最終定位問(wèn)題所在:究竟是我們對(duì)問(wèn)題的setting假設(shè)就出錯(cuò)了,還是數(shù)據(jù)質(zhì)量不如意,還是我們?cè)趯?shí)現(xiàn)中出現(xiàn)了錯(cuò)誤?這才是一個(gè)PhD應(yīng)該做的。在CS的框架下,我們往往說(shuō)的debug能力和動(dòng)手能力正是這方面的一個(gè)很好例證。
- Presentation和English writing的能力:很多時(shí)候我們需要把research通過(guò)一個(gè)更容易讓人信服的形式展現(xiàn)給別人。這其中包括如何講一個(gè)引人入勝的story,如何展現(xiàn)清晰的思考邏輯,如何分配詳略和重點(diǎn),如何運(yùn)用語(yǔ)言等等。前兩點(diǎn)尤其重要。但也是很多中國(guó)學(xué)生最容易忽視的一點(diǎn)。在CMU時(shí),聽(tīng)說(shuō)我導(dǎo)師做postdoc的時(shí)候,他的導(dǎo)師曾經(jīng)建議他選修學(xué)校的drama課程,由此可見(jiàn)頂級(jí)的researcher對(duì)于這方面能力的要求。確實(shí),讀過(guò)他的一些paper,尤其是introduction章節(jié),給了我一種耳目一新的感覺(jué)。雖然我在PhD入學(xué)的第一年就被導(dǎo)師教育要重視這個(gè)方面的練習(xí),不過(guò)直到畢業(yè)也沒(méi)達(dá)到一個(gè)比較滿(mǎn)意的程度。:( 這是一個(gè)需要長(zhǎng)期培養(yǎng)的能力。
問(wèn)題三:我到底要不要讀PhD,讀PhD一般的歷程是怎樣的,什么時(shí)候可以PhD畢業(yè)?
第一個(gè)問(wèn)題回答起來(lái)其實(shí)非常簡(jiǎn)單,借用本科導(dǎo)師張志華老師當(dāng)年給我們說(shuō)的一句話(huà):“如果你還猶豫要不要讀PhD,那么你就不適合。” 決定讀PhD應(yīng)該是非常自然的一個(gè)決定,應(yīng)該是源于自己對(duì)未知的興趣,而絕不是迫于家庭期望或逃避找工作進(jìn)入社會(huì)的現(xiàn)實(shí)。后者會(huì)在PhD四年或五年內(nèi)過(guò)得十分痛苦。人生有限,為什么要在最美好的二十歲花費(fèi)四五年的時(shí)間在自己不喜歡的事情上呢?如果你對(duì)這個(gè)問(wèn)題的答案是不猶豫,那么恭喜你,你已經(jīng)達(dá)到了王國(guó)維所說(shuō)的人生三重境界的第一重:“昨夜西風(fēng)凋碧樹(shù)。獨(dú)上高樓,望盡天涯路。”
PhD入學(xué)后,除了少數(shù)極優(yōu)秀的同學(xué)可以很快找到自己的步伐之外,大多數(shù)同學(xué)都會(huì)經(jīng)歷一個(gè)迷茫和低谷期:我應(yīng)該具體嘗試什么樣的topic?為什么看別人的paper都覺(jué)得如此厲害?為什么我很努力地工作,但是看上去依舊毫無(wú)進(jìn)展?同時(shí)生活上的各種壓力也會(huì)如期而至,比如在國(guó)外的同學(xué)會(huì)存在文化的差異,各種感情變故等等。這個(gè)期間可以短至幾個(gè)月,甚至也會(huì)長(zhǎng)到兩三年。這基本上也是每個(gè)PhD都會(huì)經(jīng)歷的過(guò)程。這個(gè)時(shí)候希望能回想一下當(dāng)初來(lái)讀PhD的初衷,堅(jiān)持下來(lái),這本身就是一場(chǎng)歷練。不忘初心,方得始終。經(jīng)過(guò)這些洗禮,那么你應(yīng)該已經(jīng)達(dá)到了第二重境界:“衣帶漸寬終不悔,為伊消得人憔悴。”
如果你一直在正確的道路上堅(jiān)持,之前的努力一定不會(huì)白費(fèi)。你會(huì)突然發(fā)現(xiàn)某一天,你可以很快點(diǎn)破一個(gè)新問(wèn)題的insight,可以不卑不亢地點(diǎn)評(píng)一個(gè)paper的優(yōu)缺點(diǎn),可以輕松看出原來(lái)遙不可及的paper中的各種trick。恭喜你,此時(shí)發(fā)paper對(duì)于你肯定不會(huì)是一個(gè)問(wèn)題,你可以PhD畢業(yè)了。此乃第三重境界:“眾里尋他千百度,暮然回首,那人正在燈火闌珊處。”
問(wèn)題四:不同等級(jí)學(xué)校之間的差別在哪里?
首先說(shuō)在PhD期間,導(dǎo)師的影響遠(yuǎn)遠(yuǎn)大于學(xué)校的影響。所以如果非得要在導(dǎo)師和學(xué)校兩者之間做出選擇的話(huà),我會(huì)選擇導(dǎo)師。我分別在ZJU,HKUST和CMU三所學(xué)校求學(xué)。想必這三所學(xué)校在CS方面的平均科研實(shí)力大家都很清楚。我個(gè)人感受不同等級(jí)學(xué)校之間的差異在以下三點(diǎn)有所體現(xiàn):
- 老師的自我要求和視野:這點(diǎn)不必多說(shuō),在ZJU大部分老師還在苦苦追求SCI的時(shí)候,HKUST的老師們大多還在想怎么讓自己的paper在頂級(jí)會(huì)議/期刊上接收,CMU每個(gè)老師想的是怎樣做有影響力的研究,怎樣做十年二十年后還會(huì)讓人記得的研究。
- 學(xué)生的主觀能動(dòng)性:就像在第一個(gè)問(wèn)題中提到的,在越好的學(xué)校,想主動(dòng)做研究的學(xué)生就越多。工作刻苦程度自然不必多提,另外想想你周?chē)瑢W(xué)都在發(fā)NIPS/ICML的時(shí)候,你怎么好意思去把目標(biāo)定在一些不入流的SCI期刊。
- 資源:僅舉一例,在CMU的時(shí)候,基本每周都會(huì)有來(lái)自世界各地的頂級(jí)researcher來(lái)給talk,而且學(xué)生大多會(huì)有一對(duì)一的交流時(shí)間,可以得到他們對(duì)正在進(jìn)行項(xiàng)目的針對(duì)性指導(dǎo)。這樣的機(jī)會(huì)在其他學(xué)校可能幾個(gè)月甚至一年才會(huì)有一次。除此之外,在人脈方面的差距更不用多提。
問(wèn)題五:什么樣的導(dǎo)師是一個(gè)好的導(dǎo)師?
首先學(xué)術(shù)能力,人脈關(guān)系這些硬條件不必多談。主要來(lái)說(shuō)下對(duì)學(xué)生的指導(dǎo)和學(xué)生之間的關(guān)系。每個(gè)人的學(xué)習(xí)習(xí)慣不同,適合的導(dǎo)師風(fēng)格自然也不同。有些人適合事無(wú)巨細(xì)的指導(dǎo),有些人適合導(dǎo)師給予充分自由,只在關(guān)鍵時(shí)刻指點(diǎn)。其實(shí)這個(gè)問(wèn)題的一個(gè)簡(jiǎn)單回答是:好的導(dǎo)師在學(xué)生畢業(yè)后,學(xué)生還愿意繼續(xù)與之合作。有很多PhD畢業(yè)之后,就再完全不愿意和導(dǎo)師再打交道,把畢業(yè)視為一種解脫。這不得不說(shuō)對(duì)于學(xué)生和導(dǎo)師兩人都是一種悲哀。僅舉一例,最近幾年我們組的PhD學(xué)生有一大半都是導(dǎo)師原來(lái)的學(xué)生推薦過(guò)來(lái)的。這也從側(cè)面印證了之前學(xué)生對(duì)導(dǎo)師的肯定。更不用說(shuō)像CUHK湯曉鷗教授這樣可以把大多數(shù)得意弟子畢業(yè)后重新招回團(tuán)隊(duì)中的。簡(jiǎn)而言之,一個(gè)好的導(dǎo)師應(yīng)該為學(xué)生發(fā)展著想,而不是把學(xué)生當(dāng)作苦力: 這一點(diǎn)說(shuō)起來(lái)容易,但是真正能做到的屈指可數(shù)。這其中包括:
- 把培養(yǎng)能力作為第一位,不著急追求短期目標(biāo):這里的能力不僅僅包括學(xué)術(shù)能力,也包括前面提到的presentation,writing能力等等。見(jiàn)識(shí)過(guò)太多導(dǎo)師對(duì)學(xué)生說(shuō)畢業(yè)標(biāo)準(zhǔn)是XX篇paper或者今年內(nèi)一定要投出去XX篇paper,而肯讓學(xué)生花時(shí)間踏實(shí)下來(lái)認(rèn)真讀讀經(jīng)典paper和書(shū)籍的基本沒(méi)見(jiàn)過(guò)。我十分慶幸本科時(shí)能遇到一個(gè)這樣為學(xué)生考慮的老板。
- 給予學(xué)生選擇的權(quán)利:一位好的導(dǎo)師不應(yīng)該時(shí)時(shí)把自己的想法強(qiáng)加于學(xué)生,而是應(yīng)該劃定一個(gè)大的范圍,尊重學(xué)生的個(gè)人選擇。這點(diǎn)尤其體現(xiàn)在對(duì)于research topic的選擇上。絕大部分PhD的悲劇都是源于不得不做一個(gè)自己完全沒(méi)有興趣的topic。
這里特別感謝我本科的導(dǎo)師張志華教授和PhD導(dǎo)師Dit-Yan Yeung教授。前者在本科階段引起了我對(duì)ML和CV的興趣,并給我打下了堅(jiān)實(shí)的數(shù)學(xué)基礎(chǔ)。后者在四年的PhD學(xué)習(xí)期間培養(yǎng)了我嚴(yán)謹(jǐn)?shù)目蒲辛?xí)慣,更重要地是給予了我充分的自由,使我可以選擇我感興趣有熱情的topic來(lái)研究。能遇到這樣兩位優(yōu)秀的導(dǎo)師是我職業(yè)生涯中最為幸運(yùn)的事情。這里傳送一個(gè)前段時(shí)間對(duì)張老師的一個(gè)采訪和張老師自己寫(xiě)的對(duì)于教學(xué)的看法:http://cos.name/2015/09/interview-of-zhangzhihua/http://bcmi.sjtu.edu.cn/~zhzhang/teaching.pdf
問(wèn)題六:如何選擇合適的topic?
記得我四年前第一次見(jiàn)到PhD導(dǎo)師的時(shí)候,他跟我反復(fù)強(qiáng)調(diào)的一點(diǎn)就是找到一個(gè)好的topic,你的PhD就成功了一半。你可以花一年甚至更長(zhǎng)的時(shí)間找一個(gè)可以作為PhD thesis的題目。當(dāng)時(shí)還不是很能理解,直到現(xiàn)在再回頭去想這段話(huà),才能明白其中的深刻意義。我覺(jué)得找到一個(gè)合適的topic要至少?gòu)囊韵聝蓚€(gè)方面考慮:
- 興趣:當(dāng)你在一個(gè)領(lǐng)域內(nèi)見(jiàn)識(shí)得足夠多之后,那個(gè)始終讓你感到興奮的問(wèn)題就是合適的方向!很多同學(xué)覺(jué)得做research沒(méi)意思,其實(shí)原因在于能接觸到的有意思問(wèn)題實(shí)在有限。拓展視野,接觸更大世界的方法基本有三個(gè):1) 到更好的學(xué)術(shù)機(jī)構(gòu),接觸更高水平的researcher:我在CMU的半年,三觀被顛覆了很多次。經(jīng)常會(huì)發(fā)出感慨,這個(gè)事情居然還可以這樣做,我之前連想都沒(méi)敢想過(guò)。2)參與高水平的學(xué)術(shù)會(huì)議:在會(huì)議上,除了可以快速瀏覽到一個(gè)領(lǐng)域的top researcher的工作外,更重要的是可以和這些人面對(duì)面交流。很多自己平時(shí)難以理解的問(wèn)題經(jīng)過(guò)高水平的討論后都會(huì)變得清晰。3)跟蹤最新的學(xué)術(shù)論文:如果以上兩點(diǎn)都沒(méi)有機(jī)會(huì),在學(xué)校里也可以努力完成這個(gè)目標(biāo)。一個(gè)最好的資源平臺(tái)就是arxiv。如何快速閱讀大量paper在下面的問(wèn)題里詳細(xì)再講。
- 個(gè)人的優(yōu)勢(shì)和劣勢(shì):除了興趣之外,選擇topic也要考慮一些個(gè)人背景和能力的限制。每個(gè)人最好能清楚認(rèn)識(shí)自己在智商和能力上的優(yōu)勢(shì)和劣勢(shì)。以我自己為例,我的優(yōu)勢(shì)并不在大量數(shù)學(xué)證明推理上(并不是說(shuō)數(shù)學(xué)不重要,相反十分重要),雖然如果有需要我也可以去做,但是在這方面比我更擅長(zhǎng),更有創(chuàng)造力的大有人在。我的優(yōu)勢(shì)在于理解透一篇paper之后,可以快速講出insight,并清晰地和之前的工作進(jìn)行類(lèi)比,在直覺(jué)上定性地快速挖掘問(wèn)題的本質(zhì)。另外之前參加編程比賽的經(jīng)歷也讓我在實(shí)現(xiàn)idea方面能夠更快更準(zhǔn)。這使我更容易在偏應(yīng)用的一些領(lǐng)域做出好工作。相反,一個(gè)數(shù)學(xué)系背景的同學(xué)可能優(yōu)勢(shì)在于對(duì)公式的敏感,而coding需要花費(fèi)他很多精力。這樣一些偏理論方面的研究就再合適不過(guò)。
選擇topic是整個(gè)PhD學(xué)習(xí)期間最重要的事情,沒(méi)有之一。然而這恰恰又是最personal的一件事情,沒(méi)有一個(gè)標(biāo)準(zhǔn)的流程。在做出最終決定之前,不妨多咨詢(xún)一些經(jīng)驗(yàn)人士的意見(jiàn)。
問(wèn)題七:如何快速閱讀大量paper?
這應(yīng)該是剛剛?cè)腴T(mén)的同學(xué)最頭疼的一個(gè)問(wèn)題。首先要說(shuō)的一點(diǎn)是,并不是每篇paper都需要讀,也不是每篇paper都需要精讀。Not every paper is created equal. 我一般會(huì)看兩類(lèi)paper:1)和自己在做的topic很相關(guān); 2) paper的作者很出名,有質(zhì)量保障。大部分paper我都會(huì)在10到15分鐘之內(nèi)掃過(guò)idea,然后決定需不需要精讀。具體在讀paper的時(shí)候,要掌握一個(gè)點(diǎn)線面的關(guān)系(這里借用一些ML里manifold的說(shuō)法可能會(huì)更傳神哈):
- 點(diǎn):我們可以把每一篇paper看作一個(gè)點(diǎn),讀完每篇paper,我們應(yīng)該可以衡量出每個(gè)點(diǎn)質(zhì)量和價(jià)值。
- 線:我們需要把每個(gè)點(diǎn)embed到整個(gè)領(lǐng)域發(fā)展的一條線或者manifold中,我們需要知道每個(gè)paper在整個(gè)領(lǐng)域中處于什么一個(gè)位置?這個(gè)paper是milestone級(jí)別的工作還是一個(gè)incremental的工作?是前人什么樣的工作啟發(fā)了這樣一篇paper?這個(gè)paper解決了這個(gè)領(lǐng)域中的什么問(wèn)題?還有什么open的問(wèn)題有待解決?
- 面:每個(gè)PhD可能只可以在一到兩條線上有比較深的理解,但是這不意味著就不需要求了解別的線。相反,我是十分反對(duì)做research只盯眼前topic這樣的做法,其實(shí)很多線是會(huì)交叉的。舉兩個(gè)我自己的例子:
- 我當(dāng)初第一篇做tracking的paper就是發(fā)現(xiàn)當(dāng)時(shí)所有的sparse tracker在在線更新模板的時(shí)候都采取了非常heurisitic的方法,沒(méi)有一個(gè)robust并且principled的辦法。而恰恰我一年前paper中的想法經(jīng)過(guò)一些改動(dòng)可以非常好地解決這個(gè)問(wèn)題。
- 我PhD期間最滿(mǎn)意的一篇paper也是這樣。在那一個(gè)學(xué)期的組會(huì)上,組內(nèi)著重討論的一個(gè)topic是crowdsourcing,看上去這與我手頭在做的tracking沒(méi)有任何聯(lián)系。我在實(shí)驗(yàn)中發(fā)現(xiàn)不同tracker的結(jié)果差異非常大,那么一個(gè)直接的想法就是能否可以借鑒crowdsourcing的想法改進(jìn)結(jié)果呢?不過(guò)現(xiàn)成的算法都不太適合tracking這個(gè)問(wèn)題的性質(zhì),所以我把crowdsourcing擴(kuò)展到了temporal structured data上。最終的paper無(wú)論在模型的優(yōu)美程度,實(shí)現(xiàn)的通用性還是最終的性能上都比較讓我滿(mǎn)意。
當(dāng)然在不是自己在做的線上,我們沒(méi)有必要sample太密的點(diǎn),我們只需要:1. 精讀一些經(jīng)典之作 2. 略讀一些paper的idea,知道這個(gè)paper做了什么事情,而具體怎么做的并不需要立即搞清楚。換句話(huà)說(shuō),在腦海中index了一下每一個(gè)領(lǐng)域的boundary。以后在有需要的時(shí)候,我們可以很快找到相關(guān)的paper再去精讀。
問(wèn)題八:什么是好的research?
首先說(shuō),這是一個(gè)見(jiàn)仁見(jiàn)智的問(wèn)題,和每個(gè)人背景尤其相關(guān)。例如一個(gè)常見(jiàn)的鄙視環(huán)就是做理論的會(huì)鄙視做應(yīng)用的,覺(jué)得毫無(wú)新意。做應(yīng)用的反而覺(jué)得做理論的大多證明了一些毫無(wú)意義的定理,都不work。首先,懂得尊重別人的research,對(duì)自己不懂的東西不亂發(fā)表意見(jiàn)是一種美德。其次任何一個(gè)research可以至少?gòu)姆椒ǖ膭?chuàng)新性和性能這兩方面劃分,所以我們會(huì)有四種劃分(為了方便表述,下面的好和差都是相對(duì)而言):
- 創(chuàng)新性低,性能差:這樣的research應(yīng)該是每個(gè)人避免的,除了浪費(fèi)自己和他人的寶貴時(shí)間,沒(méi)有任何意義。 可惜就算在頂級(jí)會(huì)議里這樣的工作還是不少。
- 創(chuàng)新性低,性能好:這也可以算作一個(gè)solid的work,尤其是可以講清楚為什么一些小的改動(dòng)會(huì)提升性能,這些不起眼的trick往往包含著對(duì)問(wèn)題本身的insight。工業(yè)界尤其歡迎這樣的工作。
- 創(chuàng)新性高,性能差:俗稱(chēng)的“挖坑”的工作。這樣的工作包括提出一個(gè)全新的問(wèn)題或者對(duì)一個(gè)已有問(wèn)題的全新解法。這樣的工作雖然可能在文章中只提出了非常簡(jiǎn)單的baseline,或性能并不能比過(guò)最好的已有方法,但是可以啟發(fā)大量后續(xù)的research。這是典型的學(xué)術(shù)界中的好工作。例如CVPR中的oral paper大多屬于這個(gè)類(lèi)型。
- 創(chuàng)新性高,性能好:這樣的research自然是最好,不過(guò)大多數(shù)時(shí)候是可遇不可求的,往往需要“時(shí)勢(shì)造英雄”。
就算是同一個(gè)人,在不同階段對(duì)于什么是好的research的定義也會(huì)變化。例如我自己,在接觸research的初期會(huì)比較喜歡fancy的模型,然后逐漸強(qiáng)調(diào)一個(gè)工作的性能,對(duì)一切性能達(dá)不到state-of-the-art的統(tǒng)統(tǒng)不感興趣,再到現(xiàn)在能夠相對(duì)客觀地評(píng)價(jià)一個(gè)paper的優(yōu)缺點(diǎn),能從前面提到的第二類(lèi)第三類(lèi)的paper里分別汲取營(yíng)養(yǎng)。我想這個(gè)過(guò)程也應(yīng)該是PhD成長(zhǎng)的必經(jīng)經(jīng)歷吧。
問(wèn)題九:PhD期間在公司實(shí)習(xí)和外出訪問(wèn)有沒(méi)有意義?
這其實(shí)取決于具體的實(shí)習(xí)類(lèi)型和實(shí)習(xí)的公司,以及更重要的是畢業(yè)后的定位。在北美,基本每個(gè)PhD都會(huì)有至少一次的公司實(shí)習(xí)經(jīng)歷。實(shí)習(xí)是一個(gè)很好的機(jī)會(huì),它可以讓我們切換視角來(lái)重新審視自己的工作,并且認(rèn)識(shí)很多同領(lǐng)域的小伙伴。我自己算是有三段這樣的經(jīng)歷,都給我?guī)?lái)了很大的收獲:
- 第一次是在大四的時(shí)候在MSRA。算在我research的啟蒙階段
- 第二次是PhD三年級(jí)的時(shí)候,在Baidu IDL參加Imagenet LSVRC比賽。
- 第三次是緊接著在IDL的實(shí)習(xí),在CMU訪問(wèn)半年。
最后兩次的感受尤其深刻,在這之前雖然也會(huì)號(hào)稱(chēng)做一些CV,但是現(xiàn)在回想看看,其實(shí)非常邊緣。這半年多的經(jīng)歷,可以讓我分別從工業(yè)界和學(xué)術(shù)界兩個(gè)角度明白真正做CV的人思考問(wèn)題的方式和他們真正關(guān)注的核心問(wèn)題。
總之,在導(dǎo)師允許的情況下,盡量多出去走走,換個(gè)環(huán)境走出自己的confortable zone,你會(huì)發(fā)現(xiàn)一個(gè)不一樣的世界。
問(wèn)題十:PhD期間除了寫(xiě)paper之外還有沒(méi)有一些別的有益的學(xué)術(shù)活動(dòng)?
下面列舉兩個(gè)我參加過(guò),而且感覺(jué)收獲很大的事情:
- 參加各種比賽: 比賽是一個(gè)以性能為導(dǎo)向的事情,所以參加比賽的目的并不在于創(chuàng)新方法,而在于:1)通過(guò)接觸更真實(shí)的數(shù)據(jù),增強(qiáng)對(duì)問(wèn)題的認(rèn)識(shí)和理解:這一點(diǎn)在各種data mining比賽中感受尤其深刻。對(duì)數(shù)據(jù)和業(yè)務(wù)本身的認(rèn)識(shí)理解遠(yuǎn)遠(yuǎn)重要于模型本身,傳送一個(gè)我在知乎上的回答:http://www.zhihu.com/question/24533374/answer/34631808 2)對(duì)已有paper去偽存真:這一點(diǎn)在我參加imagenet LSVRC 2014的比賽時(shí)感受尤其深刻。在參加這個(gè)比賽之前,我雖然讀過(guò)很多CNN相關(guān)的paper,但是并沒(méi)有真正動(dòng)手跑過(guò)大規(guī)模實(shí)驗(yàn)。在這個(gè)比賽過(guò)程中,我嘗試實(shí)現(xiàn)了很多之前的paper,結(jié)果正如所料,絕大多數(shù)并不work。但是極少數(shù)work的idea讓我對(duì)CNN這個(gè)結(jié)構(gòu)本身得到了很多insight,直接指導(dǎo)了我后續(xù)的工作。繼續(xù)傳送一下一年多以前關(guān)于這個(gè)比賽的一個(gè)知乎回答:http://www.zhihu.com/question/24904450/answer/29418425
- 參加各種開(kāi)源項(xiàng)目:相對(duì)而言,research code大多是小規(guī)模demo性質(zhì)的。參與貢獻(xiàn)到一個(gè)真實(shí)世界中的codebase和獨(dú)自寫(xiě)research code是完全不同的兩種體驗(yàn)。十分有幸參與到了DMLC項(xiàng)目中,向各位大神學(xué)習(xí)了很多不可能在學(xué)校中習(xí)得的技術(shù),這也是我PhD期間一段十分寶貴的經(jīng)歷。繼續(xù)給DMLC和mxnet做個(gè)廣告:https://github.com/dmlc/mxnet
以上便是我對(duì)四年P(guān)hD學(xué)習(xí)的一些思考,更多像是對(duì)自己二十歲前半段的一個(gè)小結(jié)。讀PhD從來(lái)不是一件容易的事情,但也絕不會(huì)是一件時(shí)時(shí)痛苦的煎熬。不忘初心,方得始終,祝愿大家都玩得愉快 
聲明:本文是作者特邀文章,版權(quán)歸作者所有,如需轉(zhuǎn)載聯(lián)系作者 @winsty (Email: winsty@gmail.com)
閱讀記錄:read twice