第一個是“人工智能的歷史”(History of Artificial Intelligence),
順著 AI 發(fā)展時間線娓娓道來,中間穿插無數(shù)牛人故事,且一波三折大氣磅礴,可謂"事實比想象更令人驚訝"。人工智能始于哲學思辨,中間經(jīng)歷了一個沒有心理學(尤其是認知神經(jīng)科學的)的幫助的階段,僅通過牛人對人類思維的外在表現(xiàn)的歸納、內(nèi)省,以及數(shù)學工具進行探索,其間最令人激動的是 Herbert Simon (決策理論之父,諾獎,跨領(lǐng)域牛人)寫的一個自動證明機,證明了羅素的數(shù)學原理中的二十幾個定理,其中有一個定理比原書中的還要優(yōu)雅,Simon 的程序用的是啟發(fā)式搜索,因為公理系統(tǒng)中的證明可以簡化為從條件到結(jié)論的樹狀搜索(但由于組合爆炸,所以必須使用啟發(fā)式剪枝)。后來 Simon 又寫了 GPS (General Problem Solver),據(jù)說能解決一些能良好形式化的問題,如漢諾塔。但說到底 Simon 的研究畢竟只觸及了人類思維的一個很小很小的方面 —— Formal Logic,甚至更狹義一點 Deductive Reasoning (即不包含 Inductive Reasoning , Transductive Reasoning (俗稱 analogic thinking)。還有諸多比如 Common Sense、Vision、尤其是最為復雜的 Language 、Consciousness 都還謎團未解。還有一個比較有趣的就是有人認為 AI 問題必須要以一個物理的 Body 為支撐,一個能夠感受這個世界的物理規(guī)則的身體本身就是一個強大的信息來源,基于這個信息來源,人類能夠自身與時俱進地總結(jié)所謂的 Common-Sense Knowledge (這個就是所謂的 Emboddied Mind 理論。 ),否則像一些老兄直接手動構(gòu)建 Common-Sense Knowledge Base ,就很傻很天真了,須知人根據(jù)感知系統(tǒng)從自然界獲取知識是一個動態(tài)的自動更新的系統(tǒng),而手動構(gòu)建常識庫則無異于古老的 Expert System 的做法。當然,以上只總結(jié)了很小一部分個人覺得比較有趣或新穎的,每個人看到的有趣的地方不一樣,比如里面相當詳細地介紹了神經(jīng)網(wǎng)絡(luò)理論的興衰。所以建議你看自己一遍,別忘了里面鏈接到其他地方的鏈接。
第二個則是“人工智能”(Artificial Intelligence)。當然,還有機器學習等等。從這些條目出發(fā)能夠找到許多非常有用和靠譜的深入?yún)⒖假Y料。
然后是一些書籍
書籍:
1. 《Programming Collective Intelligence》,近年出的入門好書,培養(yǎng)興趣是最重要的一環(huán),一上來看大部頭很容易被嚇走的:P
2. Peter Norvig 的《AI, Modern Approach 2nd》(無爭議的領(lǐng)域經(jīng)典)。
3. 《The Elements of Statistical Learning》,數(shù)學性比較強,可以做參考了。
4. 《Foundations of Statistical Natural Language Processing》,自然語言處理領(lǐng)域公認經(jīng)典。
5. 《Data Mining, Concepts and Techniques》,華裔科學家寫的書,相當深入淺出。
6. 《Managing Gigabytes》,信息檢索好書。
7. 《Information Theory:Inference and Learning Algorithms》,參考書吧,比較深。
相關(guān)數(shù)學基礎(chǔ)(參考書,不適合拿來通讀):
1. 線性代數(shù):這個參考書就不列了,很多。
2. 矩陣數(shù)學:《矩陣分析》,Roger Horn。矩陣分析領(lǐng)域無爭議的經(jīng)典。
3. 概率論與統(tǒng)計:《概率論及其應(yīng)用》,威廉·費勒。也是極牛的書,可數(shù)學味道太重,不適合做機器學習的。于是討論組里的 Du Lei 同學推薦了《All Of Statistics》并說到
機器學習這個方向,統(tǒng)計學也一樣非常重要。推薦All of statistics,這是CMU的一本很簡潔的教科書,注重概念,簡化計算,簡化與Machine Learning無關(guān)的概念和統(tǒng)計內(nèi)容,可以說是很好的快速入門材料。
4. 最優(yōu)化方法:《Nonlinear Programming, 2nd》非線性規(guī)劃的參考書。《Convex Optimization》凸優(yōu)化的參考書。此外還有一些書可以參考 wikipedia 上的最優(yōu)化方法條目。要深入理解機器學習方法的技術(shù)細節(jié)很多時候(如SVM)需要最優(yōu)化方法作為鋪墊。
推薦幾本書:
《Machine Learning, Tom Michell》, 1997.
老書,牛人?,F(xiàn)在看來內(nèi)容并不算深,很多章節(jié)有點到為止的感覺,但是很適合新手(當然,不能"新"到連算法和概率都不知道)入門。比如決策樹部分就很精彩,并且這幾年沒有特別大的進展,所以并不過時。另外,這本書算是對97年前數(shù)十年機器學習工作的大綜述,參考文獻列表極有價值。國內(nèi)有翻譯和影印版,不知道絕版否。