前面幾篇談了一些對(duì)數(shù)學(xué)的粗淺看法。其實(shí),如果對(duì)某門數(shù)學(xué)有興趣,最好的方法就是走進(jìn)那個(gè)世界去學(xué)習(xí)和體驗(yàn)。
這里說說幾本我看過后覺得不錯(cuò)的數(shù)學(xué)教科書。
1. 線性代數(shù) (Linear Algebra):
我想國(guó)內(nèi)的大學(xué)生都會(huì)學(xué)過這門課程,但是,未必每一位老師都能貫徹它的精要。這門學(xué)科對(duì)于Learning是必備的基礎(chǔ),對(duì)它的透徹掌握是必不可少的。我在科大一年級(jí)的時(shí)候就學(xué)習(xí)了這門課,后來到了香港后,又重新把線性代數(shù)讀了一遍,所讀的是
Introduction to Linear Algebra (3rd Ed.) by Gilbert Strang.
這本書是MIT的線性代數(shù)課使用的教材,也是被很多其它大學(xué)選用的經(jīng)典教材。它的難度適中,講解清晰,重要的是對(duì)許多核心的概念討論得比較
透徹。我個(gè)人覺得,學(xué)習(xí)線性代數(shù),最重要的不是去熟練矩陣運(yùn)算和解方程的方法——這些在實(shí)際工作中MATLAB可以代勞,關(guān)鍵的是要深入理解幾個(gè)基礎(chǔ)而又
重要的概念:子空間(Subspace),正交(Orthogonality),特征值和特征向量(Eigenvalues and
eigenvectors),和線性變換(Linear
transform)。從我的角度看來,一本線代教科書的質(zhì)量,就在于它能否給這些根本概念以足夠的重視,能否把它們的聯(lián)系講清楚。Strang的這本書
在這方面是做得很好的。
而且,這本書有個(gè)得天獨(dú)厚的優(yōu)勢(shì)。書的作者長(zhǎng)期在MIT講授線性代數(shù)課(18.06),課程的video在MIT的Open courseware網(wǎng)站上有提供。有時(shí)間的朋友可以一邊看著名師授課的錄像,一邊對(duì)照課本學(xué)習(xí)或者復(fù)習(xí)。
http://ocw.mit.edu/OcwWeb/Mathematics/18-06Spring-2005/CourseHome/index.htm
2. 概率和統(tǒng)計(jì) (Probability and Statistics):
概率論和統(tǒng)計(jì)的入門教科書很多,我目前也沒有特別的推薦。我在這里想介紹的是一本關(guān)于多元統(tǒng)計(jì)的基礎(chǔ)教科書:
Applied Multivariate Statistical Analysis (5th Ed.) by Richard A. Johnson and Dean W. Wichern
這本書是我在剛接觸向量統(tǒng)計(jì)的時(shí)候用于學(xué)習(xí)的,我在香港時(shí)做研究的基礎(chǔ)就是從此打下了。實(shí)驗(yàn)室的一些同學(xué)也借用這本書學(xué)習(xí)向量統(tǒng)計(jì)。這本書
沒有特別追求數(shù)學(xué)上的深度,而是以通俗易懂的方式講述主要的基本概念,讀起來很舒服,內(nèi)容也很實(shí)用。對(duì)于Linear regression,
factor analysis, principal component analysis (PCA), and canonical
component analysis (CCA)這些Learning中的基本方法也展開了初步的論述。
之后就可以進(jìn)一步深入學(xué)習(xí)貝葉斯統(tǒng)計(jì)和Graphical models。一本理想的書是
Introduction to Graphical Models (draft version). by M. Jordan and C. Bishop.
我不知道這本書是不是已經(jīng)出版了(不要和Learning in Graphical
Models混淆,那是個(gè)論文集,不適合初學(xué))。這本書從基本的貝葉斯統(tǒng)計(jì)模型出發(fā)一直深入到復(fù)雜的統(tǒng)計(jì)網(wǎng)絡(luò)的估計(jì)和推斷,深入淺
出,statistical
learning的許多重要方面都在此書有清楚論述和詳細(xì)講解。MIT內(nèi)部可以access,至于外面,好像也是有電子版的。
3. 分析 (Analysis):
我想大家基本都在大學(xué)就學(xué)過微積分或者數(shù)學(xué)分析,深度和廣度則隨各個(gè)學(xué)校而異了。這個(gè)領(lǐng)域是很多學(xué)科的基礎(chǔ),值得推薦的教科書莫過于
Principles of Mathematical Analysis, by Walter Rudin
有點(diǎn)老,但是絕對(duì)經(jīng)典,深入透徹。缺點(diǎn)就是比較艱深——這是Rudin的書的一貫風(fēng)格,適合于有一定基礎(chǔ)后回頭去看。
在分析這個(gè)方向,接下來就是泛函分析(Functional Analysis)。
Introductory Functional Analysis with Applications, by Erwin Kreyszig.
適合作為泛函的基礎(chǔ)教材,容易切入而不失全面。我特別喜歡它對(duì)于譜論和算子理論的特別關(guān)注,這對(duì)于做learning的研究是特別重要的。
Rudin也有一本關(guān)于functional
analysis的書,那本書在數(shù)學(xué)上可能更為深刻,但是不易于上手,所講內(nèi)容和learning的切合度不如此書。
在分析這個(gè)方向,還有一個(gè)重要的學(xué)科是測(cè)度理論(Measure theory),但是我看過的書里面目前還沒有感覺有特別值得介紹的。
4. 拓?fù)?(Topology):
在我讀過的基本拓?fù)鋾饔刑厣蔷C合而言,我最推崇:
Topology (2nd Ed.) by James Munkres
這本書是Munkres教授長(zhǎng)期執(zhí)教MIT拓?fù)湔n的心血所凝。對(duì)于一般拓?fù)鋵W(xué)(General
topology)有全面介紹,而對(duì)于代數(shù)拓?fù)?Algebraic
topology)也有適度的探討。此書不需要特別的數(shù)學(xué)知識(shí)就可以開始學(xué)習(xí),由淺入深,從最基本的集合論概念(很多書不屑講這個(gè))到Nagata-
Smirnov Theorem和Tychonoff
theorem等較深的定理(很多書避開了這個(gè))都覆蓋了。講述方式思想性很強(qiáng),對(duì)于很多定理,除了給出證明過程和引導(dǎo)你思考其背后的原理脈絡(luò),很多令人
贊嘆的亮點(diǎn)——我常讀得忘卻饑餓,不愿釋手。很多習(xí)題很有水平。
5. 流形理論 (Manifold theory):
對(duì)于拓?fù)浜头治鲇幸欢ò盐諘r(shí),方可開始學(xué)習(xí)流形理論,否則所學(xué)只能流于浮淺。我所使用的書是
Introduction to Smooth Manifolds. by John M. Lee
雖然書名有introduction這個(gè)單詞,但是實(shí)際上此書涉入很深,除了講授了基本的manifold, tangent
space, bundle, sub-manifold等,還探討了諸如綱理論(Category theory),德拉姆上同調(diào)(De Rham
cohomology)和積分流形等一些比較高級(jí)的專題。對(duì)于李群和李代數(shù)也有相當(dāng)多的討論。行文通俗而又不失嚴(yán)謹(jǐn),不過對(duì)某些記號(hào)方式需要熟悉一下。
雖然李群論是建基于平滑流形的概念之上,不過,也可能從矩陣出發(fā)直接學(xué)習(xí)李群和李代數(shù)——這種方法對(duì)于急需使用李群論解決問題的朋友可能更加實(shí)用。而且,對(duì)于一個(gè)問題從不同角度看待也利于加深理解。下面一本書就是這個(gè)方向的典范:
Lie Groups, Lie Algebras, and Representations: An Elementary Introduction. by Brian C. Hall
此書從開始即從矩陣切入,從代數(shù)而非幾何角度引入矩陣?yán)钊旱母拍睢2⑼ㄟ^定義運(yùn)算的方式建立exponential
mapping,并就此引入李代數(shù)。這種方式比起傳統(tǒng)的通過“左不變向量場(chǎng)(Left-invariant vector
field)“的方式定義李代數(shù)更容易為人所接受,也更容易揭示李代數(shù)的意義。最后,也有專門的論述把這種新的定義方式和傳統(tǒng)方式聯(lián)系起來。
————————————————————————————
無論是研究Vision,
Learning還是其它別的學(xué)科,數(shù)學(xué)終究是根基所在。學(xué)好數(shù)學(xué)是做好研究的基石。學(xué)好數(shù)學(xué)的關(guān)鍵歸根結(jié)底是自己的努力,但是選擇一本好的書還是大有益
處的。不同的人有不同的知識(shí)背景,思維習(xí)慣和研究方向,因此書的選擇也因人而異,只求適合自己,不必強(qiáng)求一致。上面的書僅僅是從我個(gè)人角度的出發(fā)介紹的,
我的閱讀經(jīng)歷實(shí)在非常有限,很可能還有比它們更好的書(不妨也告知我一聲,先說聲謝謝了)。