本文來(lái)源：蝌蚪五線譜（微信ID：kedo2011）
誤解一：“我們永遠(yuǎn)不可能發(fā)明出和人類智力相當(dāng)?shù)腁I。”
在一些特定領(lǐng)域，比如說(shuō)國(guó)際象棋、圍棋、股市交易以及人機(jī)對(duì)話等，我們已經(jīng)發(fā)明出與人腦匹敵或超越人腦的計(jì)算機(jī)。電腦和驅(qū)動(dòng)他們的運(yùn)算法則只會(huì)變得更好，電腦精通幾乎任何人類能力只是時(shí)間問(wèn)題。
紐約大學(xué)心理學(xué)家蓋瑞馬庫(kù)斯（Gary Marcus）曾說(shuō)過(guò)，幾乎所有研究AI的人都認(rèn)為機(jī)器最終將取代人類。“狂熱分子和懷疑論者之間唯一的不同是對(duì)時(shí)間早晚的判斷。”未來(lái)主義者，像雷庫(kù)茲韋爾，認(rèn)為機(jī)器統(tǒng)治人類會(huì)在幾十年后發(fā)生，而其他人則說(shuō)可能得幾個(gè)世紀(jì)。
最初設(shè)想的機(jī)器智能可能缺乏一種或多種這些屬性。最終，我們可能制造出極其聰明的AI，但是它不能通過(guò)主觀的自我意識(shí)感受這個(gè)世界。沙納罕說(shuō)也許能夠?qū)⒅橇鸵庾R(shí)結(jié)合在一個(gè)機(jī)器內(nèi)，但是我們也要認(rèn)識(shí)到智力和意識(shí)終究是兩種不同的概念。
AI懷疑論者認(rèn)為生物腦在本質(zhì)上是有獨(dú)特之處的，這是無(wú)法解決的科技難題，其實(shí)這些是沒有說(shuō)服力的。我們的大腦是生物學(xué)意義的機(jī)器，但也不過(guò)是機(jī)器。他們存在于現(xiàn)實(shí)世界里，就要遵循基本的物理法則。人腦沒有東西是不可知的。
誤解二：“人工智能將會(huì)有意識(shí)。”
AMC電視連續(xù)劇 Human 中，并不是全部人工智能都獲得了意識(shí)
關(guān)于機(jī)器智能的一個(gè)普遍假設(shè)是：將來(lái)機(jī)器智能會(huì)有意識(shí)。也就是說(shuō)，機(jī)器會(huì)像人一樣思考。評(píng)論家們，如微軟創(chuàng)始人之一的保羅艾倫，則更進(jìn)一步認(rèn)為我們還未達(dá)到人工通用智能，即機(jī)器能夠像人類一樣執(zhí)行任何需要智力的任務(wù)，因?yàn)槲覀內(nèi)狈﹃P(guān)于意識(shí)的科學(xué)理論。正如倫敦帝國(guó)理工學(xué)院認(rèn)知機(jī)器人研究者穆雷沙納罕（Murray Shanahan）所指出的那樣，我們應(yīng)該避免混淆認(rèn)知和意識(shí)這兩種概念。
“探究意識(shí)確實(shí)是一門迷人且重要的課題，但是我認(rèn)為意識(shí)對(duì)于人類水平的人工智能來(lái)說(shuō)是并不是必要的?；蛘吒_地說(shuō)，我們用‘意識(shí)’這個(gè)詞來(lái)指代心理的和認(rèn)知的屬性，這些在人類身上是捆綁在一起的。”
最初設(shè)想的機(jī)器智能可能缺乏一種或多種這些屬性。最終，我們可能制造出極其聰明的AI，但是它不能通過(guò)主觀的自我意識(shí)感受這個(gè)世界。沙納罕說(shuō)也許能夠?qū)⒅橇鸵庾R(shí)結(jié)合在一個(gè)機(jī)器內(nèi)，但是我們也要認(rèn)識(shí)到智力和意識(shí)終究是兩種不同的概念。
不能僅僅因?yàn)橐慌_(tái)機(jī)器通過(guò)了圖靈測(cè)試，就認(rèn)為它有意識(shí)。先進(jìn)的AI留給我們的印象是它們是有意識(shí)的，但是再先進(jìn)的AI對(duì)于自己的認(rèn)識(shí)也不會(huì)比一塊石頭或一個(gè)計(jì)算器多。
誤解三：“超級(jí)人工智能會(huì)很友好。”
哲學(xué)家康德認(rèn)為智能與道德密不可分。神經(jīng)學(xué)家David Chalmers在他的論文《非凡的哲學(xué)分析》中吸取了康德的著名觀點(diǎn)，并將其運(yùn)用于人工智能的提升中。
如果這個(gè)觀點(diǎn)是正確的話，我們可以想到AI因智力爆發(fā)性增長(zhǎng)致使道德感急劇升高的狀況?？梢韵氲?，ASI系統(tǒng)變得超級(jí)智能的同時(shí)會(huì)具有無(wú)上的道德感，因此我們可以認(rèn)為它們是善良的。
但是，這個(gè)“先進(jìn)的AI從本質(zhì)上將是好的、開明的”的觀點(diǎn)是站不住腳的。正如Armstrong指出，存在很多聰明的戰(zhàn)犯。智力和道德感間的關(guān)系在人類中貌似并不存在，所以他懷疑該假設(shè)在其他智能形式中，恐怕也是難以成立的。
“聰明的人的不道德行為可以比他們的笨蛋同胞造成更大規(guī)模的破壞，”他說(shuō)。“智力只是給了他們變得更壞的能力，它并沒有把他們變成好人。”