深度學(xué)習(xí)在最近兩年非常火爆，但深度學(xué)習(xí)能否取代其他機(jī)器學(xué)習(xí)算法？紐約大學(xué)研究生Ran Bi根據(jù)Quora上的一個討論總結(jié)了不同的觀點，CSDN編輯將其翻譯如下，并加上一些國內(nèi)人工智能專家的觀點，供大家參考。
【編者按】深度學(xué)習(xí)在最近兩年非常火爆，但深度學(xué)習(xí)能否取代其他機(jī)器學(xué)習(xí)算法？紐約大學(xué)研究生Ran Bi根據(jù)Quora上的一個討論總結(jié)了不同的觀點，CSDN編輯將其翻譯如下，并加上一些國內(nèi)人工智能專家的觀點，供大家參考。
深度學(xué)習(xí)迅速地成長起來了，并且以其瘋狂的實證結(jié)果著實令我們驚奇。Quora上有一個關(guān)于深度學(xué)習(xí)是否會讓其他的機(jī)器學(xué)習(xí)算法過時的討論。特別地，相關(guān)的算法，如反向傳播、HMM會像感知機(jī)一樣過時嗎？
這很難回答。Google DeepMind研發(fā)工程師Jack Rae對此有一個有趣的回答：
過去幾年的實證結(jié)果已經(jīng)表明，當(dāng)數(shù)據(jù)集足夠大時，深度學(xué)習(xí)提供了最好的預(yù)測能力。但這是真的嗎？我知道的一個例子，去年它并未達(dá)到對一個超過1億行數(shù)據(jù)集的預(yù)測能力。
他認(rèn)為深度學(xué)習(xí)之所以會導(dǎo)致其他學(xué)習(xí)算法瀕臨滅絕，是因為深度學(xué)習(xí)具備非常卓越的預(yù)測能力，尤其是對大中型數(shù)據(jù)集的預(yù)測。當(dāng)人們開始考慮使用深度學(xué)習(xí)作為解決一些問題如模式識別的第一選擇時，其他算法將過時。
另一方面，大多數(shù)人仍然相信深度學(xué)習(xí)不會取代所有其他模型和算法。斯坦福大學(xué)人工智能研究生Jacob Steinhart的觀點收到了最多的點贊。他寫道：
1、對于許多應(yīng)用程序，使用更簡單的算法像邏輯回歸和支持向量機(jī)可以工作的很好,而使用深度神經(jīng)網(wǎng)絡(luò)只會使事情變得復(fù)雜。
2、然而深度神經(jīng)網(wǎng)絡(luò)（deep belief networks ）是最好的一個不可知域算法，如果你有領(lǐng)域知識的話，那么使用其他算法，如用于語音識別的HMM、用于圖形壓縮并識別的小波算法等，就可以表現(xiàn)更好。已經(jīng)有一些工作把這些領(lǐng)域知識合并到神經(jīng)網(wǎng)絡(luò)模型，但是這還是不足以完全取代所有其他的模型和算法。
以上是由Eren Golge創(chuàng)立的機(jī)器學(xué)習(xí)的時間表。
深度學(xué)習(xí)將成為主流，就像在20世紀(jì)早期初迅速提高的SVM（支持向量機(jī)）一樣。然而，在深度學(xué)習(xí)成為機(jī)器學(xué)習(xí)算法的第一選擇之前，深度學(xué)習(xí)的復(fù)雜性以及其大量數(shù)據(jù)的需求仍需解決。
作者簡介：Ran Bi，紐約大學(xué)的數(shù)據(jù)科學(xué)計劃的碩士研究生，已經(jīng)完成了機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和大數(shù)據(jù)分析領(lǐng)域的好幾個項目。
原文鏈接：Will Deep Learning take over Machine Learning, make other algorithms obsolete?（翻譯：王輝）
其他專家觀點：
- 余凱，百度深度學(xué)習(xí)研究院（IDL）常務(wù)副院長：
深度學(xué)習(xí)已經(jīng)在取代其他的機(jī)器學(xué)習(xí)算法，或者說兼容其他算法，并且最終將可能成為一個包容其他算法的機(jī)器學(xué)習(xí)框架。關(guān)鍵在于，深度學(xué)習(xí)的數(shù)學(xué)框架本質(zhì)上和其他算法是一樣的，可以退化成傳統(tǒng)算法。因為深度學(xué)習(xí)是一個很靈活的框架，當(dāng)處理小數(shù)據(jù)的時候，可以根據(jù)實際需求采用比較淺的網(wǎng)絡(luò)結(jié)構(gòu)。
- 鄒永強(qiáng)，騰訊數(shù)據(jù)平臺部精準(zhǔn)推薦中心深度學(xué)習(xí)方向負(fù)責(zé)人
我估計只有少數(shù)deep learning的粉絲會認(rèn)可DL可以取代其他算法，另外也要看業(yè)務(wù)領(lǐng)域。
- 李成華，京東深度神經(jīng)網(wǎng)絡(luò)（深度學(xué)習(xí)）實驗室首席科學(xué)家
目前，深度學(xué)習(xí)的應(yīng)用場景主要在圖像、語音、視頻廣告等領(lǐng)域，但有些業(yè)務(wù)應(yīng)用，如購物籃分析，還沒聽說用深度學(xué)習(xí)的。
還有個主要問題：深度學(xué)習(xí)門檻較高，硬件要求也高，相比傳統(tǒng)機(jī)器學(xué)習(xí)算法與Hadoop結(jié)合不友好。
但從準(zhǔn)確率來說，隨著深度學(xué)習(xí)技術(shù)成熟，取代很多傳統(tǒng)機(jī)器學(xué)習(xí)算法是必然的。如分類、聚類、預(yù)測、推薦和搜索等，都有從傳統(tǒng)機(jī)器學(xué)習(xí)往深度學(xué)習(xí)轉(zhuǎn)的趨勢。
產(chǎn)業(yè)界，深度學(xué)習(xí)應(yīng)用絕大多數(shù)都是有監(jiān)督的機(jī)器學(xué)習(xí)，研究界更多的是研究無監(jiān)督式的深度學(xué)習(xí)技術(shù)。 本質(zhì)上，有監(jiān)督的機(jī)器學(xué)習(xí)相對已經(jīng)非常成熟，只需要更多、更好質(zhì)量的數(shù)據(jù)，就能輕易的戰(zhàn)勝復(fù)雜的非監(jiān)督深度學(xué)習(xí)。所以，我覺得，不會代替，得看具體的應(yīng)用場景。有的時候，殺雞需要用牛刀，但有的場景，殺雞絕對不需要用牛刀。
我預(yù)測，每隔10~15年，神經(jīng)網(wǎng)絡(luò)將經(jīng)歷以下循環(huán)：他們將被遺忘10余年，正如人們感到興奮的大型凸優(yōu)化問題，然后慢慢的以一個新的、性感的名稱（例如深度學(xué)習(xí)）回歸。我懷疑，只要Hinton、LeCun、Bengio和他們的門徒還在（他們很可能會以不斷增加），這就會發(fā)生！
（責(zé)任編輯：周建丁）
閱讀記錄：read twice