本文來源：機(jī)器之心
人類大腦所具有的能力在某些方面要比任何宇宙中已知事物都更為強(qiáng)大，這一點(diǎn)毫無爭(zhēng)議。大腦能夠理解宇宙的存在，為什么會(huì)有無窮多質(zhì)數(shù)，蘋果墜落是因?yàn)闀r(shí)空曲率，遵循自身的生物本能在道德上可能是錯(cuò)誤的，它也能理解自身的存在。大腦不僅是唯一能夠理解上述現(xiàn)象的事物，它的獨(dú)特還體現(xiàn)在這一冷冰冰的物理事實(shí)上：它是唯一能將自己送入太空，然后完好返回的事物，它能預(yù)測(cè)或預(yù)防隕石砸到自己，或者將物體冷凍到絕對(duì)零點(diǎn)之上數(shù)十億分之一度，也只有大腦能夠在銀河遠(yuǎn)處尋找同類。
但是，對(duì)于以上所有被實(shí)現(xiàn)的事實(shí)和功能，這個(gè)星球上卻沒有一個(gè)大腦能夠知道自己到底是怎么做出來的。人工地去實(shí)現(xiàn)它——AGI領(lǐng)域（AGI，artificial general intelligence，人工通用智能）——六十年來，沒有任何進(jìn)展。
盡管如此，AGI肯定有可能。這源于物理定律的一個(gè)深刻特性，計(jì)算的通用性(universality of computation，譯者注：意思是說通過計(jì)算過程模擬自然過程的普遍可行性）。這一特點(diǎn)要求，只要時(shí)間和儲(chǔ)存能力允許，通用（general-purpose）計(jì)算機(jī)上的某種程序能夠模擬出物體遵循物理定律所做的每件事的任何細(xì)節(jié)。
那么，為什么這個(gè)領(lǐng)域卻一直沒有進(jìn)展呢？在我看來，正如一位不知名的賢人曾經(jīng)說過：「引起困惑的不是我們不知道的東西，而是我們以為知道，實(shí)際上并非如此的東西。」我想不出任何其他重要的知識(shí)領(lǐng)域會(huì)像這個(gè)領(lǐng)域一樣，社會(huì)和專家中的主流智慧會(huì)如此深受根深蒂固根本錯(cuò)誤的困擾。然而，這也是對(duì)預(yù)言——不久將來，AGI會(huì)取得終極突破——最具自信的領(lǐng)域之一。
1950年，艾倫·圖靈預(yù)測(cè)，到2000年「人們能夠談?wù)摍C(jī)器思考而毫無違和感」。1968年，阿瑟·C·克拉克預(yù)測(cè)這一情形會(huì)發(fā)生在2001年。直到今天，在對(duì)AGI的編程方面，仍然沒有人超越圖靈的范式。
這不會(huì)讓那些對(duì)AGI可能性持反對(duì)態(tài)度的人（這個(gè)陣營(yíng)的人數(shù)在減少）感到奇怪。但是，另一陣營(yíng)（AGI迫近論者）也承認(rèn)，失敗過往亟需一個(gè)合理解釋，至少能夠說得通。
「AGI」這個(gè)用語就是一個(gè)合理化（解釋）的例子，這個(gè)領(lǐng)域曾被稱為「AI」——人工智能。但是，AI漸漸適合于描述各種不相關(guān)的計(jì)算機(jī)程序，比如，游戲玩家，搜索引擎和聊天機(jī)器人，直至G代表的「通用（general）」被加上去，人們才有可能再次（用這個(gè)單詞）指代真實(shí)的事物，不過，現(xiàn)在的AGI不過是指更加聰明的聊天機(jī)器人。
另一類合理化（解釋）偏離了總路線：AGI一點(diǎn)都不牛；現(xiàn)在的軟件已經(jīng)越來越智能，不過是以非人類（non-human)方式，而且我們太虛榮、太過秉持文化上的偏見以至于無法給它應(yīng)有的認(rèn)可。 這一解釋獲得了一定支持，因?yàn)樗屓讼肫鸪掷m(xù)流行中文化相對(duì)主義的非理性以及相關(guān)修辭：「我們?nèi)祟愐陨頌閯?dòng)物典范而驕傲，但是這種驕傲放錯(cuò)了地方，因?yàn)閯?dòng)物也有著語言、工具……以及自我意識(shí)。」還記得電影《終結(jié)者》中計(jì)算機(jī)系統(tǒng)（天網(wǎng)，Skynet）變得具有「自我覺知」 而被如此關(guān)注嗎？
那只是另一種哲學(xué)上的錯(cuò)誤觀念，本身足以屏蔽通往AGI的任何途徑。事實(shí)上，現(xiàn)在的軟件開發(fā)員能夠直接為計(jì)算機(jī)編程，讓它具有行為意義上「自我覺知」——例如，通過「鏡子測(cè)試」 （mirror test，利用鏡子推測(cè)關(guān)于自己的事實(shí)）——如果他們希望如此。就我所知，沒人這么做，很可能因?yàn)檫@實(shí)在無關(guān)緊要。
自我覺知之所以會(huì)因其與AGI的聯(lián)系而獲得不應(yīng)有的名聲，原因可能在于任何一種自我參照都有這樣的名聲：迷信般的神秘性（woo-woo mystery），這還要感謝哥德爾定律（哥德爾不完備定理，1931年提出，哥德爾證明了任何一個(gè)形式系統(tǒng)，只要包括了簡(jiǎn)單的初等數(shù)論描述，而且是自洽的，它必定包含某些系統(tǒng)內(nèi)所允許的方法既不能證明真也不能證偽的命題。——譯者）和二十世紀(jì)各種形式邏輯爭(zhēng)議（為我們揭示出這一真相）。意識(shí)（consciousness）也是如此。而且為了描述意識(shí)，我們又會(huì)遇到術(shù)語模糊的難題：意識(shí)這個(gè)術(shù)語的含義太廣泛了。