第一次轉型之后,劉鐵巖作為信息檢索領域的新人,始終保持著旺盛的好奇心,不斷思考著能為這個領域帶來哪些新東西。當時圍繞搜索引擎所開展的研究十分火熱,信息檢索更是人們關注的重中之重。通過大量的文獻研究,劉鐵巖發現這個方向大多數的研究者都是數字圖書館專業背景,因此研究方法都偏向經驗化,缺少了對于優化系統方式和目標的科學思考。
基于對行業的洞察,劉鐵巖開始深入學習機器學習的相關知識,并試圖把機器學習的思想引入信息檢索領域。由此,劉鐵巖博士在學術界的第一個成名工作——排序學習(learning to rank)就這樣誕生了,該方法為信息檢索領域帶來了重大變革。
隨后,劉鐵巖的研究便圍繞排序學習展開。在2007到2008年,劉鐵巖和他的團隊在SIGIR、WWW、ICML等頂級學術會議上發表了大量的關于排序學習的論文,還在主流會議上做主題講座、主持專題研討會。他的表現受到了學術界越來越多的關注,更多的研究人員跟隨他進入到這個領域中來,短短的幾年時間劉鐵巖及其團隊的研究實力便在全世界的信息檢索領域內遙遙領先。而劉鐵巖博士出的第一本學術專著也與排序學習相關。該專著已被多所大學作為教科書、并被其他學者引用了近千次。
致力于端到端的系統性研究 在2008年到2009年左右,排序學習領域盡管很繁榮,但是多數人仍把排序學習作為應用級的研究。在機器學習領域的主流學術會議中,排序學習通常也會被分到應用領域(application track)。
劉鐵巖很快就發現了這其中的原因:一個研究領域如果缺少科研理論的話,是無法被廣泛認可的。因此在后來的幾年時間里,劉鐵巖和他的研究團隊花費了大量時間從理論的角度把排序學習領域正式化,去闡述這個領域是什么、目標是什么、各種算法的關系是什么、有什么樣的理論性質等等。他們在ICML、NIPS、COLT等頂級機器學習會議上發表了大量排序學習的理論文章,即使到今天這些論文的影響力也十分深刻。在這整個的研究周期內,劉鐵巖及其團隊把排序學習打造成一個完整的研究領域,并通過從算法到理論的一系列研究成果,讓這個領域真正的火了起來,劉鐵巖也成了這一研究領域當之無愧的代表人物。
。”一直到今天,排序學習一直都是很多會議的主要方向之一,仍然有很多學者在進行研究。正是因為這些工作,劉鐵巖博士完成了他的第二次轉型——由信息檢索轉變到了機器學習。
第三次轉型:博弈機器學習在微軟亞洲研究院,研究員的研究成果除了作為論文發表出來之外,還會應用到微軟的各個產品中。通過與產品部門合作,研究員們可以發現實際應用中的新問題。劉鐵巖團隊與微軟的在線廣告部門的合作就是其中一個非常有代表性的實例。
這項合作始于排序學習,劉鐵巖和團隊成員幫微軟廣告部門離線訓練了一個效果極佳的機器學習模型用于必應廣告搜索中的競價排名。上線之初模型立刻帶來了很大的效益,但隨著時間的推移,廣告效益卻大打折扣。劉鐵巖和他的團隊發現了這個問題,并找到了奇怪現象的根源:廣告競價排名過程常常涉及到人(廣告主)的因素,廣告主會因為算法的改變帶來的價格變化,敏銳地調整自己的廣告投放策略,這是一個動態過程。如果不考慮經濟規律和人的動態策略,離線地進行機器學習模型的訓練,結果自然會產生很大的偏差。
如果想把廣告競價這個動態問題解釋清楚,僅有機器學習的知識背景顯然是不夠的。所以劉鐵巖便帶領其團隊開始學習博弈論,計算經濟學等等,
組名也改成了“互聯網經濟研究組”,這便是他第三次轉型的開始。在這個轉型過程中,他發明了一種全新的技術,稱為“博弈機器學習”,把博弈論的思想引入到機器學習的過程中,來對人的動態策略進行建模,從而解決上文提到的難題。
如果你了解博弈論和機器學習分別是什么的話,就會發現這兩個領域差別巨大,完全是不同的體系,那么這次轉型的難度也可想而知。劉鐵巖博士說:“對于任何一位研究人員,如果不是在微軟亞洲研究院的話,這種轉型都是非常困難的。因為,如果你開始學習新東西,想要有這個領域的人認識、認可你,并產生頂級的影響力是十分艱難的。但當我們真正去做的時候,發現微軟亞洲研究院給了我們很多幫助,這讓我們對新領域的研究變得輕松不少。”當劉鐵巖和他們組的研究員們開始涉足互聯網經濟領域時,不僅有來自微軟其他研究院在博弈論領域頗有建樹的同事(如Noam Nisan)的幫助、也有很多來自學界的博弈論專家(如鄧小鐵教授、葉蔭宇教授等)拋出了橄欖枝。他們互相訪問,一起參加各種學術活動,互相交流,在很短的時間內,劉鐵巖他們就對博弈論這一研究方向有了很多深刻的認識:不僅在算法博弈論領域的頂級會議上發表了多篇論文,還在互聯網經濟研究組成立不到兩年的時間里,以程序委員會主席的身份把全世界第二的算法博弈論會議——互聯網經濟大會(WINE)帶到中國。
黃金三鏢客:電子,數學和計算機 微軟亞洲研究院 人工智能組三次轉型,成就了劉鐵巖博士一路創新不斷的探索和發現,然而這背后也離不開其整個研究團隊的支持與努力。
現在,劉鐵巖博士帶領的團隊更名為“人工智能組”,繼續在當下火熱的機器學習和人工智能領域進行深耕。不久前,
微軟亞洲研究院對外開源的DMTK(分布式機器學習工具包)便是這個小組的研究成果。
如果給這個研究組尋找一個關鍵詞的話,那一定是“求知欲”。從劉鐵巖的三次轉型中也不難發現,現名為人工智能組的研究員們絕非循規蹈矩之人,他們有著強烈的求知欲,就像初生牛犢不怕虎一樣,
知難而進,什么不會學什么,什么難做什么,朝氣十足。
而另一方面,該團隊的組合十分有趣,就像微軟亞洲研究院的一個小小縮影一樣。研究員們的專業覆蓋面既不是全部精鉆于機器學習,也不是全部埋頭在博弈論上。目前,人工智能組有三分之一的研究員出自數學系,專業包括計算數學、概率論和組合數學,這涵蓋了該團隊所需要的所有數學基礎。另外三分之一的研究員,包括劉鐵巖在內都是來自電子工程專業,劉鐵巖博士認為,電子工程專業出身的人有一個很大的優點便是有著非常好的直覺,并且不局限自己的思路,十分開放。而其余三分之一的研究員則是計算機專業出身,他們都擁有很強的計算機技能。當數學、電子和計算機三撥精英碰撞在一起的時候,就沒有什么研究方向能難得住他們了。
此外,人工智能組還是一個十分重視學術和工程實踐相結合的團隊。他們的很多啟發與靈感都來自于與微軟產品部門的合作,因此,這是一個不斷提出新問題的團隊。在人工智能組發表的論文中你可以看到一個很明顯的特點:
團隊很少循規蹈矩地解決別人提出的問題,而是經常提出新的問題,并給出一個力所能及范圍內的最優解。這樣的論文常常有很高的引用數,平均下來,劉鐵巖和他的團隊發表的論文幾乎每篇都有上百次的引用。三次轉型帶來了如今人工智能研究組的團隊凝聚力。一加一大于二,小組的很多論文都有至少一個電子,一個計算機和一個數學背景的研究員參與,這樣的論文都非常有特點,也能滿足各種要求,無論是定力證明、直覺、還是實現的精巧,都可圈可點。
“爭吵文化”與“真理不辨不明” 劉鐵巖博士帶領的人工智能組還有一個十分有趣的“爭吵文化”。在接受采訪時,筆者對劉鐵巖博士嘴里說出的“爭吵文化”感到十分難以置信。坐在對面的劉鐵巖博士穿著經典款的男士襯衫,外套一件淡灰色的羊毛開衫,學院氣息濃厚,讓人似乎很難將他與“爭吵”聯系在一起。
“我們團隊幾乎會天天爭吵。”劉鐵巖博士笑言。但這其實是研究組最有活力的狀態,開會的時候,大家不會在乎職位高低,就一個問題會針鋒相對地表達自己的觀點。人工智能組全組上下都堅持的一個信條是“真理不辨不明”。在劉鐵巖的帶領下,整個組會相互批判的看問題,就連待久一點的實習生也會自然的融入其中,和他的導師間也是一種互相辯論,互相學習的關系。
因此,對于實習生來說,進入微軟亞洲研究院會帶來巨大的成長。首先是知識的積累,很多實習生在進研究院之初知識非常有限。但微軟亞洲研究院計算機專家資源密集,超過兩百名的計算機專家們的研究經歷、方向和視角各不相同,向他們學習一定會有所收獲。其次,實習生們在這里學會的更多是研究經驗和研究方法,“爭吵文化”在這里便得到了很好的體現。無論是什么大牛發了什么論文,都應該抱有一種“破壞性”的思想,先客觀地分析,從中立甚至批判的視角來研究。因此,人工智能組培養出的實習生也都個性十足,頗有“小牛”風范,從不盲目崇拜。
在微軟亞洲研究院大學:成長于中國,卻能影響世界 作為三清畢業的博士、微軟亞洲研究院首席研究員,劉鐵巖博士的研究之路始終都未離開中國本土。而作為國際機器學習和信息檢索領域的知名學者,他的國際影響力也毋庸置疑。劉鐵巖的論文多次獲得最佳論文獎、最高引用論文獎;他擔任了SIGIR、WWW、NIPS、AAAI等眾多頂級學術會議的程序委員會主席或領域主席,ACM信息系統會刊(TOIS)、ACM萬維網會刊(TWEB)等主流學術期刊的副主編;他和他的研究成果也被美國國家公共電臺、中國中央電視臺、MIT技術評論等國內外知名媒體所報道。此外,他還受邀在包括卡內基梅隆大學(CMU)、諾丁漢大學在內的國內外知名高校擔任客座教授、博士生導師。對于所獲得的諸多成就,劉鐵巖無不感動地說:“最重要的原因其實是我來自微軟亞洲研究院,如果我博士畢業沒有來到研究院,我都不敢想象會有今天的影響力。”
微軟亞洲研究院從1998年11月成立的第一天開始,就在國際學術界扮演著舉足輕重的作用。這么多年來,研究院以一貫開放的心態,與學術界展開積極的合作,而研究院開放的學術環境也為研究人員們構建了一座與學術界的橋梁,兩者相輔相成。甚至有國外學者戲稱微軟亞洲研究院是一個讓人“又愛又恨”的機構。愛在它的研究成果,為學術界帶來了諸多創新,也“恨”在其彪悍的實力,讓別人望塵莫及。
除了學術合作,微軟亞洲研究院為研究員們還提供了接觸用戶,服務用戶的可能。微軟亞洲研究院的研究員也和微軟的產品部分積極展開合作。劉鐵巖博士帶領的人工智能組的技術轉化也體現在微軟必應搜索的搜索結果排序和廣告排序,小冰的自動問答技術等微軟的產品和服務中。
劉鐵巖博士謙虛的表示,“能成為包括CMU在內的眾多知名高校的客座教授,很大程度源于學術界對微軟亞洲研究院的信任。甚至人工智能組的實習生,也成為了CMU的offer收割機,這都得益于我們開放的科研環境和緊密的學術交流。因為微軟亞洲研究院,我們的研究被更多人關注,我們的新人也被更多人認可,這就形成了一個良性循環。類似于國外的師承關系,從這個角度來看,微軟亞洲研究院著實就像是一所大學了。”
閱讀記錄:read twice