• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            心如止水
            Je n'ai pas le temps
            posts - 400,comments - 130,trackbacks - 0

              算法是計算機科學領域最重要的基石之一,但卻受到了國內一些程序員的冷落。許多學生看到一些公司在招聘時要求的編程語言五花八門就產生了一種誤解,認為學計算機就是學各種編程語言,或者認為,學習最新的語言、技術、標準就是最好的鋪路方法。其實大家都被這些公司誤導了。編程語言雖然該學,但是學 習計算機算法和理論更重要,因為計算機算法和理論更重要,因為計算機語言和開發平臺日新月異,但萬變不離其宗的是那些算法和理論,例如數據結構、算法、編譯原理、計算機體系結構、關系型數據庫原理等等。在“開復學生網”上,有位同學生動地把這些基礎課程比擬為“內功”,把新的語言、技術、標準比擬為“外功”。整天趕時髦的人最后只懂得招式,沒有功力,是不可能成為高手的。

            算法與我

              當我在1980年轉入計算機科學系時,還沒有多少人的專業方向是計算機科學。有許多其他系的人嘲笑我們說:“知道為什么只有你們系要加一個‘科學 ’,而沒有‘物理科學系’或‘化學科學系’嗎?因為人家是真的科學,不需要畫蛇添足,而你們自己心虛,生怕不‘科學’,才這樣欲蓋彌彰。”其實,這點他們徹底弄錯了。真正學懂計算機的人(不只是“編程匠”)都對數學有相當的造詣,既能用科學家的嚴謹思維來求證,也能用工程師的務實手段來解決問題——而這種思維和手段的最佳演繹就是“算法”。

              記得我讀博時寫的Othello對弈軟件獲得了世界冠軍。當時,得第二名的人認為我是靠僥幸才打贏他,不服氣地問我的程序平均每秒能搜索多少步棋,當他發現我的軟件在搜索效率上比他快60多倍時,才徹底服輸。為什么在同樣的機器上,我可以多做60倍的工作呢?這是因為我用了一個最新的算法,能夠把一個指數函數轉換成四個近似的表,只要用常數時間就可得到近似的答案。在這個例子中,是否用對算法才是能否贏得世界冠軍的關鍵。

              還記得1988年貝爾實驗室副總裁親自來訪問我的學校,目的就是為了想了解為什么他們的語音識別系統比我開發的慢幾十倍,而且,在擴大至大詞匯系統后,速度差異更有幾百倍之多。他們雖然買了幾臺超級計算機,勉強讓系統跑了起來,但這么貴的計算資源讓他們的產品部門很反感,因為“昂貴”的技術是沒有應用前景的。在與他們探討的過程中,我驚訝地發現一個O(n*m)的動態規劃(Dynamic Programming)居然被他們做成了O (n*n*m)。更驚訝的是,他們還為此發表了不少文章,甚至為自己的算法起了一個很特別的名字,并將算法提名到一個科學會議里,希望能得到大獎。當時,貝爾實驗室的研究員當然絕頂聰明,但他們全都是學數學、物理或電機出身,從未學過計算機科學或算法,才犯了這么基本的錯誤。我想那些人以后再也不會嘲笑學計算機科學的人了吧!

            網絡時代的算法

              有人也許會說:“今天計算機這么快,算法還重要嗎?”其實永遠不會有太快的計算機,因為我們總會想出新的應用。雖然在摩爾定律的作用下,計算機的計算能力每年都在飛快增長,價格也在不斷下降??晌覀儾灰洠枰幚淼男畔⒘扛浅手笖导壍脑鲩L?,F在每人每天都會創造出大量數據(照片,視頻,語 音,文本等等)。日益先進的紀錄和存儲手段使我們每個人的信息量都在爆炸式的增長。互聯網的信息流量和日志容量也在飛快增長。在科學研究方面,隨著研究手 段的進步,數據量更是達到了前所未有的程度。無論是三維圖形、海量數據處理、機器學習、語音識別,都需要極大的計算量。在網絡時代,越來越多的挑戰需要靠 卓越的算法來解決。

              再舉另一個網絡時代的例子。在互聯網和手機搜索,如果要找附近的咖啡店,那么搜索引擎該怎么處理這個請求呢?最簡單的辦法就是把整個城市的咖啡館都找出來,然后計算出它們的所在位置與你之間的距離,再進行排序,然后返回最近的結果。但該如何計算距離呢?圖論里有不少算法可以解決這個問題。

              這么做也許是最直觀的,但絕對不是最迅速的。如果一個城市只有為數不多的咖啡館,那么這么做應該沒什么問題,反正計算量不大。但如果一個城市里有很多咖啡館,又有很多用戶都需要類似的搜索,那么服務器所承受的壓力就大多了。在這種情況下,我們該怎樣優化算法呢?

              首先,我們可以把整個城市的咖啡館做一次“預處理”。比如,把一個城市分成若干個“格子(grid)”,然后根據用戶所在的位置把他放到某一個格子里,只對格子里的咖啡館進行距離排序。

              問題又來了,如果格子大小一樣,那么絕大多數結果都可能出現在市中心的一個格子里,而郊區的格子里只有極少的結果。在這種情況下,我們應該把市 中心多分出幾個格子。更進一步,格子應該是一個“樹結構”,最頂層是一個大格——整個城市,然后逐層下降,格子越來越小,這樣有利于用戶進行精確搜索—— 如果在最底層的格子里搜索結果不多,用戶可以逐級上升,放大搜索范圍。

              上述算法對咖啡館的例子很實用,但是它具有通用性嗎?答案是否定的。把咖啡館抽象一下,它是一個“點”,如果要搜索一個“面”該怎么辦呢?比 如,用戶想去一個水庫玩,而一個水庫有好幾個入口,那么哪一個離用戶最近呢?這個時候,上述“樹結構”就要改成“r-tree”,因為樹中間的每一個節點 都是一個范圍,一個有邊界的范圍(參考:http://www.cs.umd.edu/~hjs/rtrees/index.html)。

              通過這個小例子,我們看到,應用程序的要求千變萬化,很多時候需要把一個復雜的問題分解成若干簡單的小問題,然后再選用合適的算法和數據結構。

            并行算法:Google的核心優勢

              上面的例子在Google里就要算是小case了!每天Google的網站要處理十億個以上的搜索,GMail要儲存幾千萬用戶的2G郵箱, Google Earth要讓數十萬用戶同時在整個地球上遨游,并將合適的圖片經過互聯網提交給每個用戶。如果沒有好的算法,這些應用都無法成為現實。

              在這些的應用中,哪怕是最基本的問題都會給傳統的計算帶來很大的挑戰。例如,每天都有十億以上的用戶訪問Google的網站,使用Google 的服務,也產生很多很多的日志(Log)。因為Log每份每秒都在飛速增加,我們必須有聰明的辦法來進行處理。我曾經在面試中問過關于如何對Log進行一 些分析處理的問題,有很多面試者的回答雖然在邏輯上正確,但是實際應用中是幾乎不可行的。按照它們的算法,即便用上幾萬臺機器,我們的處理速度都根不上數 據產生的速度。

            那么Google是如何解決這些問題的?

              首先,在網絡時代,就算有最好的算法,也要能在并行計算的環境下執行。在Google的數據中心,我們使用的是超大的并行計算機。但傳統的并行 算法運行時,效率會在增加機器數量后迅速降低,也就是說,十臺機器如果有五倍的效果,增加到一千臺時也許就只有幾十倍的效果。這種事半功倍的代價是沒有哪 家公司可以負擔得起的。而且,在許多并行算法中,只要一個結點犯錯誤,所有計算都會前功盡棄。

              那么Google是如何開發出既有效率又能容錯的并行計算的呢?

              Google最資深的計算機科學家Jeff?Dean認識到,Google所需的絕大部分數據處理都可以歸結為一個簡單的并行算法:Map?and?Reduce(http://labs.google.com/papers/mapreduce.html)。 這個算法能夠在很多種計算中達到相當高的效率,而且是可擴展的(也就是說,一千臺機器就算不能達到一千倍的效果,至少也可以達到幾百倍的效果)。 Map?and?Reduce的另外一大特色是它可以利用大批廉價的機器組成功能強大的server?farm。最后,它的容錯性能異常出色,就算一個 server?farm宕掉一半,整個fram依然能夠運行。正是因為這個天才的認識,才有了Map?and?Reduce算法。借助該算法, Google幾乎能無限地增加計算量,與日新月異的互聯網應用一同成長。

            算法并不局限于計算機和網絡

              舉一個計算機領域外的例子:在高能物理研究方面,很多實驗每秒鐘都能幾個TB的數據量。但因為處理能力和存儲能力的不足,科學家不得不把絕大部 分未經處理的數據丟棄掉??纱蠹乙溃略氐男畔⒑苡锌赡芫筒卦谖覀儊聿患疤幚淼臄祿锩?。同樣的,在其他任何領域里,算法可以改變人類的生活。例如 人類基因的研究,就可能因為算法而發明新的醫療方式。在國家安全領域,有效的算法可能避免下一個911的發生。在氣象方面,算法可以更好地預測未來天災的 發生,以拯救生命。

              所以,如果你把計算機的發展放到應用和數據飛速增長的大環境下,你一定會發現;算法的重要性不是在日益減小,而是在日益加強。


            posted on 2010-02-08 18:51 lee1r 閱讀(928) 評論(3)  編輯 收藏 引用 所屬分類: Programming Diary

            FeedBack:
            # re: 李開復:算法的力量
            2010-02-08 20:23 | Sunshine Alike
            痛哭,明知算法很重要,就是學不好~  回復  更多評論
              
            # re: 李開復:算法的力量[未登錄]
            2010-02-08 20:24 | .....
            .............  回復  更多評論
              
            # re: 李開復:算法的力量
            2010-02-12 16:09 | 煙皚
            不錯,謝博主分享了~  回復  更多評論
              
            精品国产乱码久久久久久郑州公司| 久久精品国产一区二区 | 久久黄视频| 久久天天婷婷五月俺也去| 国产精品永久久久久久久久久| 久久久久综合国产欧美一区二区 | 久久精品亚洲乱码伦伦中文| 热RE99久久精品国产66热| 亚洲精品美女久久久久99| 久久人人爽人人爽人人片AV麻豆| 久久人人青草97香蕉| 久久国产精品久久国产精品| 国产精品一区二区久久精品涩爱| 亚洲va中文字幕无码久久不卡| 91精品婷婷国产综合久久| 国产成人精品综合久久久久| 亚洲精品NV久久久久久久久久| 国产日产久久高清欧美一区| 亚洲αv久久久噜噜噜噜噜| 性高湖久久久久久久久AAAAA| 日韩精品久久久久久| 日本福利片国产午夜久久| 青青国产成人久久91网| 欧美亚洲另类久久综合| 国产免费久久久久久无码| 一本大道加勒比久久综合| 国产精品熟女福利久久AV| 国产精品久久久久久久午夜片| 青青草原综合久久大伊人精品| 久久精品国产99久久久香蕉| 亚洲国产成人久久精品99| 国产精品久久久久久久app| 久久ZYZ资源站无码中文动漫| 久久成人国产精品| 久久精品极品盛宴观看| 91久久精一区二区三区大全| 理论片午午伦夜理片久久| 久久影院综合精品| 日韩欧美亚洲综合久久| 伊人热人久久中文字幕| 久久精品国产亚洲AV香蕉|