夏永紅
繼去年AlphaGo以4:1的成績戰(zhàn)勝李世石之后，最近一周在線上橫掃圍棋棋壇、四處挑戰(zhàn)圍棋高手并取得60連勝的神秘棋手Master終于揭開面紗，正式新版的AlphaGo，對人工智能的恐慌又彌漫社交網(wǎng)絡(luò)。在研究認(rèn)知與心靈哲學(xué)的夏永紅看來，雖然AlphaGo的算法設(shè)計非常精妙，它仍然基于對大數(shù)據(jù)的暴力統(tǒng)計運(yùn)算，這和人類智能的運(yùn)作過程完全是兩回事。
“思維是人類不朽靈魂的一種機(jī)能，因此任何動物和機(jī)器都不能思維。”
“機(jī)器思維的后果太可怕了，我們希望并且相信機(jī)器做不到這一點(diǎn)。”
“哥德爾定理表明，任何形式系統(tǒng)都是不完備的，它總會面臨自身不能判定的問題，因此機(jī)器難以超越人心。”
“機(jī)器沒有現(xiàn)象意識體驗(yàn)，它沒有思想也沒有感情。”
“機(jī)器沒有像人一樣豐富多彩的能力。”
“機(jī)器無法創(chuàng)造出什么新的東西。它所能做的都是那些我們知道怎樣命令它去執(zhí)行的事情。”
“神經(jīng)系統(tǒng)不是離散狀態(tài)的機(jī)器，機(jī)器不能模擬它。”
“要將所有指導(dǎo)行為的常識形式化是不可能的。”
“人有心靈感應(yīng)的能力，而機(jī)器沒有。”
這些對人工智能（artificial intelligence，以下簡稱AI）的反對意見，是AI先驅(qū)阿蘭·圖靈在他的著名論文《計算機(jī)器與智能》（1950年）中最早羅列的。雖然圖靈已經(jīng)對它們做過初步的批駁，但幾乎所有后來對AI的各種反駁論證，都可以從這些觀點(diǎn)中找到它們雛形。從AI誕生之日起，對它的各種質(zhì)疑和批判，就一刻也沒有停止過。
然而，繼Alphago去年三月戰(zhàn)勝李世石，最近又化身Master掃蕩中日韓頂尖高手之后，這些觀點(diǎn)似乎已經(jīng)銷聲匿跡了。已經(jīng)沒有多少人懷疑，AI將在一個所謂的奇點(diǎn)（singularity），全面超越人類的智能，唯一有爭議的，只是奇點(diǎn)什么時候到來。甚至那些敵視AI的人，也并不懷疑奇點(diǎn)的可能性，唯一擔(dān)憂的竟然是人類可能被AI淘汰。然而，這種盲目樂觀主義，既可能不負(fù)責(zé)任地傷害AI的未來發(fā)展——期望越高失望越大，也缺乏對當(dāng)前AI的嚴(yán)格審視——如果我們了解Alphago是如何運(yùn)作的，將會發(fā)現(xiàn)它仍然共享了所有AI所面臨的哲學(xué)難題。
一、人工智能為何不智能？
圖靈所列舉的那些批判，有很多在后來都發(fā)展成了更為精細(xì)的論證。比如，基于哥德爾定理的批判后來被哲學(xué)家盧卡斯和物理學(xué)家彭羅斯進(jìn)一步發(fā)展；常識不可形式化的難題，后來出現(xiàn)在框架問題和常識問題中；機(jī)器只是機(jī)械地按照規(guī)則行動，而不能自主思考，是后來的中文屋論證和符號奠基問題關(guān)切的核心；機(jī)器沒有現(xiàn)象意識體驗(yàn)，是那些主張第一人稱體驗(yàn)和感受質(zhì)的心靈哲學(xué)家們針對AI的主要觀點(diǎn)。
（1）框架問題是困擾AI最嚴(yán)重的問題之一，至今仍然未得到有效的解決。AI最初的范式是符號主義，基于符號邏輯來對世界進(jìn)行表征。框架問題就是內(nèi)在于AI的表征過程的一個難題。認(rèn)知科學(xué)家丹尼特舉過這樣的例子來描述框架問題：我們對機(jī)器人發(fā)出指令：進(jìn)入一個放著定時炸彈的房間，將里面的一塊備用電池取出來。但是由于炸藥是和電池都在一個小車上，機(jī)器人推車取出電池的時候也會一塊推出炸藥。于是，炸藥爆炸了……我們可以讓機(jī)器人推演出一個動作所導(dǎo)致的附帶效果，來避免這種事故。于是，機(jī)器人進(jìn)入房間之后，它開始計算推出車之后會不會改變房間墻壁的顏色，會不會改變車子的輪子……它不知道哪些結(jié)果與它的目標(biāo)相關(guān)，哪些不相關(guān)。就在它陷入無限的計算推演的時候，炸藥爆炸了……我們再次對這個機(jī)器人作出改進(jìn)，教他區(qū)分哪些附帶效果和任務(wù)相關(guān)，哪些不相關(guān)，但就在這個機(jī)器人計算哪些相關(guān)，哪些無關(guān)的時候，炸藥再次爆炸了。
當(dāng)一個機(jī)器人作用于外部世界的時候，世界中的某些事物就可能會發(fā)生變化，機(jī)器人就需要對內(nèi)部的表征作出更新。但什么事物會變化，什么事物不會變化，機(jī)器人本身卻并不知道，這就需要設(shè)定一個框架來規(guī)定變化的相關(guān)項(xiàng)。但這個框架一方面本身就過于繁冗，另一方面又依賴于具體情境從而更加繁冗，最終會遠(yuǎn)遠(yuǎn)超出計算機(jī)的負(fù)荷。這就是所謂的框架問題。