有些人想知道，我們是否應(yīng)該歡迎新的機(jī)器人負(fù)擔(dān)，并且/或者如何裝備他們的程序，讓其本質(zhì)上對人類無害（就像阿西莫夫的「機(jī)器人三定律」），并且/或者防止他們掌握將宇宙變?yōu)榛匦吾樀睦碚摗Ｄ嵌疾皇菃栴}。 事實(shí)一直如此，生產(chǎn)力、經(jīng)濟(jì)能力、智力，無論哪個方面， 單個特別有創(chuàng)造力的人（的能力）都成千上萬倍于絕大多數(shù)普通人；而且這種人如果將自己的能力用來作惡，會禍害無窮。
這些現(xiàn)象與AGI沒關(guān)系。善惡之間的思想斗爭和人類物種一樣古老，還會繼續(xù)持續(xù)下去，無論智能在什么事物上運(yùn)行。問題在于：我們總是希望善的智能總能擊敗惡的智能，生物智能擊敗人工智能；但是我們錯了，我們自己的「善」的概念需要不斷發(fā)展。社會組織結(jié)構(gòu)如何發(fā)展才算合理呢？「控制所有的智能」是一個巨大的錯誤，「控制所有看起來不同于我們的智能」也好不到哪里去。
我們必須停止使用的含義之一就是將（人類或類似AGI的）教育視為指令（instruction)——作為一種不加變更灌輸既有知識的手段，讓既有價值得以遵從。正如波普爾寫道的（在科學(xué)的發(fā)現(xiàn)的語境下，它既適用于AGI編程也適用于孩子教育 ）：「沒有(不受認(rèn)知框架影響的)指令…我們不是通過復(fù)制而發(fā)現(xiàn)新事實(shí)或新影響，也不是從觀察中歸納推導(dǎo)出它們，或者用任何其他依靠環(huán)境指導(dǎo)的辦法發(fā)現(xiàn)新事物。 毋寧說，我們的辦法是試錯?！梗ㄗg者注：這是波普爾在其《The Myth of the Framework》中說的話）也就是說，推測和批判。學(xué)習(xí)一定是指新創(chuàng)造的智能為自己行事和控制自身。
我沒有突出所有這些哲學(xué)論題，因?yàn)槲覔?dān)心在人類發(fā)展出理解AGI并將之融入人類文明的哲學(xué)解釋之前，AGI就被研發(fā)出來了。這一擔(dān)心出于幾乎完全相反的原因：我確信，研發(fā)AGI的全部問題就是個哲學(xué)事實(shí)，而不是計算機(jī)科學(xué)或神經(jīng)生理學(xué)問題，而且哲學(xué)研究進(jìn)展是AGI未來融合的關(guān)鍵，它也是把研發(fā)AGI放在首位的先決條件。
錯誤觀念阻礙了AGI的發(fā)展。沒有了波普爾的認(rèn)識論，我們甚至沒辦法開始猜測成就AGI必須實(shí)現(xiàn)什么樣的細(xì)節(jié)功能。波普爾的認(rèn)識論并不為眾人所知，更別說充分理解并加以運(yùn)用了。為了把經(jīng)驗(yàn)，獎賞與懲罰翻譯成想法（或者更糟，翻譯成行為）而將AGI視為機(jī)器，這如同通過平衡身體幽默來治愈傳染?。簺]用，因?yàn)樗从诠爬锨义e得離譜的世界觀。
如果沒有理解AGI功能和其他任何一種計算機(jī)程序功能存在質(zhì)的不同，那么，這個人就是在完全不同領(lǐng)域工作。如果一個人努力制作出其「思維」天生就無法違背先決約束的程序，那么，這個人就是在設(shè)計定義智能存在，比如一個人的特征，也就是創(chuàng)造力。
清除這一障礙不會自動得出結(jié)論。然而，獲得答案也不全然很難。既然人類能夠設(shè)定目標(biāo)而黑猩猩沒有這一能力，理解這一能力質(zhì)的不同就為我們提供了信息：如何獲取這一能力，答案肯定被編碼進(jìn)了人和黑猩猩DNA的相對少量差異中。因此，在一方面，我贊同AGI迫近陣營的觀點(diǎn)：有理由認(rèn)為我們和突破之間僅隔著一個想法。但是，這個想法必須是最好的想法中的一個。
登陸|注冊歡迎登陸本站，認(rèn)識更多朋友，獲得更多精彩內(nèi)容推薦！