1. “我們永遠(yuǎn)不可能發(fā)明出和人類智力相當(dāng)?shù)腁I。”
在一些特定領(lǐng)域，比如說國際象棋、圍棋、股市交易以及人機(jī)對話等，我們已經(jīng)發(fā)明出與人腦匹敵或超越人腦的計算機(jī)。電腦和驅(qū)動他們的運(yùn)算法則只會變得更好，電腦精通幾乎任何人類能力只是時間問題。
紐約大學(xué)心理學(xué)家蓋瑞?馬庫斯(Gary Marcus)曾說過，幾乎所有研究AI的人都認(rèn)為機(jī)器最終將取代人類。“狂熱分子和懷疑論者之間唯一的不同是對時間早晚的判斷。”未來主義者，像雷?庫茲韋爾，認(rèn)為機(jī)器統(tǒng)治人類會在幾十年后發(fā)生，而其他人則說可能得幾個世紀(jì)。
最初設(shè)想的機(jī)器智能可能缺乏一種或多種這些屬性。最終，我們可能制造出極其聰明的AI，但是它不能通過主觀的自我意識感受這個世界。沙納罕說也許能夠?qū)⒅橇鸵庾R結(jié)合在一個機(jī)器內(nèi)，但是我們也要認(rèn)識到智力和意識終究是兩種不同的概念。
AI懷疑論者認(rèn)為生物腦在本質(zhì)上是有獨特之處的，這是無法解決的科技難題，其實這些是沒有說服力的。我們的大腦是生物學(xué)意義的機(jī)器，但也不過是機(jī)器。他們存在于現(xiàn)實世界里，就要遵循基本的物理法則。人腦沒有東西是不可知的。
2. “人工智能將會有意識。”
關(guān)于機(jī)器智能的一個普遍假設(shè)是：將來機(jī)器智能會有意識。也就是說，機(jī)器會像人一樣思考。評論家們，如微軟創(chuàng)始人之一的保羅?艾倫，則更進(jìn)一步認(rèn)為我們還未達(dá)到人工通用智能，即機(jī)器能夠像人類一樣執(zhí)行任何需要智力的任務(wù)，因為我們?nèi)狈﹃P(guān)于意識的科學(xué)理論。正如倫敦帝國理工學(xué)院認(rèn)知機(jī)器人研究者穆雷?沙納罕(Murray Shanahan)所指出的那樣，我們應(yīng)該避免混淆認(rèn)知和意識這兩種概念。
“探究意識確實是一門迷人且重要的課題，但是我認(rèn)為意識對于人類水平的人工智能來說是并不是必要的。或者更精確地說，我們用‘意識’這個詞來指代心理的和認(rèn)知的屬性，這些在人類身上是捆綁在一起的。”
最初設(shè)想的機(jī)器智能可能缺乏一種或多種這些屬性。最終，我們可能制造出極其聰明的AI，但是它不能通過主觀的自我意識感受這個世界。沙納罕說也許能夠?qū)⒅橇鸵庾R結(jié)合在一個機(jī)器內(nèi)，但是我們也要認(rèn)識到智力和意識終究是兩種不同的概念。
不能僅僅因為一臺機(jī)器通過了圖靈測試，就認(rèn)為它有意識。先進(jìn)的AI留給我們的印象是它們是有意識的，但是再先進(jìn)的AI對于自己的認(rèn)識也不會比一塊石頭或一個計算器多。
3. “超級人工智能會很友好。”
哲學(xué)家康德認(rèn)為智能與道德密不可分。神經(jīng)學(xué)家David Chalmers在他的論文《非凡的哲學(xué)分析》中吸取了康德的著名觀點，并將其運(yùn)用于人工智能的提升中。
如果這個觀點是正確的話，我們可以想到AI因智力爆發(fā)性增長致使道德感急劇升高的狀況?？梢韵氲剑珹SI系統(tǒng)變得超級智能的同時會具有無上的道德感，因此我們可以認(rèn)為它們是善良的。
但是，這個“先進(jìn)的AI從本質(zhì)上將是好的、開明的”的觀點是站不住腳的。正如Armstrong指出，存在很多聰明的戰(zhàn)犯。智力和道德感間的關(guān)系在人類中貌似并不存在，所以他懷疑該假設(shè)在其他智能形式中，恐怕也是難以成立的。
“聰明的人的不道德行為可以比他們的笨蛋同胞造成更大規(guī)模的破壞，”他說。“智力只是給了他們變得更壞的能力，它并沒有把他們變成好人。”
4. “簡單的程序修補(bǔ)就能解決AI的控制難題。”
假設(shè)創(chuàng)造出比人類更偉大的AI，我們將面臨一個嚴(yán)重的問題，那就是：控制問題。如何在家里安置以及控制ASI?如何確保ASI對人類是友好的?在這些問題上，未來主義者和AI理論家們完全不知所措。最近，佐治亞理工學(xué)院的研究人員天真地認(rèn)為AI可以通過閱讀簡單的故事來學(xué)習(xí)人類的價值觀和社會習(xí)俗。這可能遠(yuǎn)不是讀幾個小故事能解決的。
“人們推薦了很多可能解決整個AI控制問題的簡單技巧，”阿姆斯特朗說。示例包括為ASI編寫取悅?cè)祟惖某绦?，或者僅僅使ASI作為人類的工具使用。再或者，我們可以將積極的概念，比如愛或尊敬整合進(jìn)他的源代碼。為了防止ASI對社會只有單一偏激的看法，我們可以給它編寫欣賞智力、文化和社會多樣性的程序。