在上個(gè)月發(fā)表博客文章《深度學(xué)習(xí) vs. 機(jī)器學(xué)習(xí) vs. 模式識(shí)別》之后，CMU博士、MIT博士后及vision.ai聯(lián)合創(chuàng)始人Tomasz Malisiewicz這一次帶領(lǐng)我們回顧50年來(lái)人工智能領(lǐng)域三大范式(邏輯學(xué)、概率方法和深度學(xué)習(xí))的演變歷程。通過(guò)本文我們能夠更深入地理解人工智能和深度學(xué)習(xí)的現(xiàn)狀與未來(lái)。
以下為正文：
今天，我們一起來(lái)回顧過(guò)去50年人工智能(AI)領(lǐng)域形成的三大范式：邏輯學(xué)、概率方法和深度學(xué)習(xí)。如今，無(wú)論依靠經(jīng)驗(yàn)和“數(shù)據(jù)驅(qū)動(dòng)”的方式，還是大數(shù)據(jù)、深度學(xué)習(xí)的概念，都已經(jīng)深入人心，可是早期并非如此。很多早期的人工智能方法是基于邏輯，并且從基于邏輯到數(shù)據(jù)驅(qū)動(dòng)方法的轉(zhuǎn)變過(guò)程受到了概率論思想的深度影響，接下來(lái)我們就談?wù)勥@個(gè)過(guò)程。
本文按時(shí)間順序展開(kāi)，先回顧邏輯學(xué)和概率圖方法，然后就人工智能和機(jī)器學(xué)習(xí)的未來(lái)走向做出一些預(yù)測(cè)。
圖片來(lái)源：Coursera的概率圖模型課
1. 邏輯和算法 (常識(shí)性的“思考”機(jī))
許多早期的人工智能工作都是關(guān)注邏輯、自動(dòng)定理證明和操縱各種符號(hào)。John McCarthy于1959年寫(xiě)的那篇開(kāi)創(chuàng)性論文取名為《常識(shí)編程》也是順勢(shì)而為。
如果翻開(kāi)當(dāng)下最流行的AI教材之一——《人工智能：一種現(xiàn)代方法》(AIMA)，我們會(huì)直接注意到書(shū)本開(kāi)篇就是介紹搜索、約束滿足問(wèn)題、一階邏輯和規(guī)劃。第三版封面(見(jiàn)下圖)像一張大棋盤(pán)(因?yàn)槠逅嚲渴侨祟?lèi)智慧的標(biāo)志)，還印有阿蘭·圖靈(計(jì)算機(jī)理論之父)和亞里士多德(最偉大的古典哲學(xué)家之一，象征著智慧)的照片。
AIMA 的封面，它是CS專(zhuān)業(yè)本科AI課程的規(guī)范教材
然而，基于邏輯的AI遮掩了感知問(wèn)題，而我很早之前就主張了解感知的原理是解開(kāi)智能之謎的金鑰匙。感知是屬于那類(lèi)對(duì)于人很容易而機(jī)器很難掌握的東西。(延伸閱讀：《計(jì)算機(jī)視覺(jué)當(dāng)屬人工智能》，作者2011年的博文)邏輯是純粹的，傳統(tǒng)的象棋機(jī)器人也是純粹算法化的，但現(xiàn)實(shí)世界卻是丑陋的，骯臟的，充滿了不確定性。
我想大多數(shù)當(dāng)代人工智能研究者都認(rèn)為基于邏輯的AI已經(jīng)死了。萬(wàn)物都能完美觀察、不存在測(cè)量誤差的世界不是機(jī)器人和大數(shù)據(jù)所在的真實(shí)世界。我們生活在機(jī)器學(xué)習(xí)的時(shí)代，數(shù)字技術(shù)擊敗了一階邏輯。站在2015年，我真是替那些死守肯定前件拋棄梯度下降的傻子們感到惋惜。
邏輯很適合在課堂上講解，我懷疑一旦有足夠的認(rèn)知問(wèn)題成為“本質(zhì)上解決”，我們將看到邏輯學(xué)的復(fù)蘇。未來(lái)存在著很多開(kāi)放的認(rèn)知問(wèn)題，那么也就存在很多場(chǎng)景，在這些場(chǎng)景下社區(qū)不用再擔(dān)心認(rèn)知問(wèn)題，并開(kāi)始重新審視這些經(jīng)典的想法。也許在2020年。
延伸閱讀：《邏輯與人工智能》斯坦福哲學(xué)百科全書(shū)
2. 概率，統(tǒng)計(jì)和圖模型(“測(cè)量”機(jī))
概率方法在人工智能是用來(lái)解決問(wèn)題的不確定性?！度斯ぶ悄?一種現(xiàn)代方法》一書(shū)的中間章節(jié)介紹“不確定知識(shí)與推理”，生動(dòng)地介紹了這些方法。如果你第一次拿起AIMA，我建議你從本節(jié)開(kāi)始閱讀。如果你是一個(gè)剛剛接觸AI的學(xué)生，不要吝嗇在數(shù)學(xué)下功夫。
來(lái)自賓夕法尼亞州立大學(xué)的概率論與數(shù)理統(tǒng)計(jì)課程的PDF文件
大多數(shù)人在提到的概率方法時(shí)，都以為只是計(jì)數(shù)。外行人很容易想當(dāng)然地認(rèn)為概率方法就是花式計(jì)數(shù)方法。那么我們簡(jiǎn)要地回顧過(guò)去統(tǒng)計(jì)思維里這兩種不相上下的方法。
頻率論方法很依賴經(jīng)驗(yàn)——這些方法是數(shù)據(jù)驅(qū)動(dòng)且純粹依靠數(shù)據(jù)做推論。貝葉斯方法更為復(fù)雜，并且它結(jié)合數(shù)據(jù)驅(qū)動(dòng)似然和先驗(yàn)。這些先驗(yàn)往往來(lái)自第一原則或“直覺(jué)”，貝葉斯方法則善于把數(shù)據(jù)和啟發(fā)式思維結(jié)合做出更聰明的算法——理性主義和經(jīng)驗(yàn)主義世界觀的完美組合。
最令人興奮的，后來(lái)的頻率論與貝葉斯之爭(zhēng)，是一些被稱(chēng)為概率圖模型的東西。該類(lèi)技術(shù)來(lái)自計(jì)算機(jī)科學(xué)領(lǐng)域，盡管機(jī)器學(xué)習(xí)現(xiàn)在是CS和統(tǒng)計(jì)度的重要組成部分，統(tǒng)計(jì)和運(yùn)算結(jié)合的時(shí)候它強(qiáng)大的能力才真正釋放出來(lái)。