當(dāng)機器變得和人類一樣聰明甚至比人類還聰明時會出現(xiàn)什么的疑問似乎會讓許多科幻小說作家忙碌。比如說終結(jié)者三部曲中的天網(wǎng)，這個具備自我意識的人工智能在三部曲中充當(dāng)了主要的反面角色。在技術(shù)人員當(dāng)中，通常都是奇點主義者在考慮機器智能超越人類的日子。奇點這個術(shù)語描述的是導(dǎo)致機器智能大爆炸的技術(shù)加速現(xiàn)象，它是由數(shù)學(xué)家斯塔尼斯拉夫•烏拉姆在1958年杜撰出來的。最近這個概念已經(jīng)被未來主義者雷-庫茲韋爾所普及，他準(zhǔn)確的指出2045年將成為奇點年。
公平的說我認(rèn)為奇點主義者并非主流。或許是由于他們的信仰認(rèn)為到2045年人類也將變得永生而且能夠把他們的意識下載到電腦上。在2000年太陽微系統(tǒng)公司的共同創(chuàng)建人同時也是一位主流技術(shù)專家的比爾-喬伊為《連線》雜志寫了一篇名為《為什么未來不需要我們》的文章。他寫道：“21世紀(jì)我們最強大的技術(shù)，比如機器人學(xué)、基因工程和納米技術(shù)帶來的威脅正在使人們成為一個瀕危物種。”喬伊的文章一經(jīng)發(fā)表就被廣泛傳閱，但是似乎沒有帶來什么效果。
人們是在經(jīng)濟(jì)大蕭條的背景下開始注意到雖然機器的智能尚未超過人類，它們已經(jīng)獲得了足以給就業(yè)市場帶來重大影響的智能。2011年出版的書籍《與機器競賽》描述了數(shù)字革命如何加速革新、推動生產(chǎn)力以及不可逆轉(zhuǎn)的改變就業(yè)和經(jīng)濟(jì)。作者艾瑞克-布呂諾爾夫松和安德魯•麥卡菲聲稱“技術(shù)進(jìn)步正在促進(jìn)革命，甚至將許多行業(yè)的工作者甩在了背后。”事實上在過去的30年里，當(dāng)我們看到個人電腦改變成為平板電腦、智能手機和云計算時，我們也看到世界范圍收入不均的擴(kuò)大。雖然過去幾年數(shù)百萬的失業(yè)被歸咎為經(jīng)濟(jì)大蕭條，現(xiàn)在似乎是技術(shù)帶來的生產(chǎn)力增長至少是一個主要因素。這樣的概念在過去的幾年里已經(jīng)成為主流。
早期的人工智能先驅(qū)者對于人工智能的發(fā)展持有樂觀態(tài)度。阿蘭-圖靈在1950年所寫的論文《計算機與智能》或許因為他提出的一種“模擬游戲”的建議而聞名，也就是今天我們所說的圖靈測試。但是這篇論文的焦點事實上并不是模擬游戲而是機器智能的可能性。他同樣闡述了他的觀點，他認(rèn)為到20世界末我們就將看到機器智能。然而我們現(xiàn)在知道圖靈對于時間表有點太樂觀，過去50年中人工智能不屈不撓的發(fā)展表明赫伯特-西蒙是正確的，他在1956年寫道：“機器將能夠勝任人類能做的任何工作。”因此比爾-喬伊的問題不應(yīng)當(dāng)被忽略：“未來需要我們嗎？如果機器能夠勝任幾乎任何人類從事的工作，那么人類將做什么？”
針對這個問題的一個典型答案就是說我是一名盧德分子。（盧德主義被定義為不信任或者害怕新技術(shù)帶來的必然改變。）這是一種人身攻擊而不是一種嚴(yán)肅的答案。一個更加考慮周到的答案是自從工業(yè)革命開始之后就一直在創(chuàng)造失業(yè)。然而人工智能革命不同于工業(yè)革命。在19世紀(jì)機器與人類的肌肉競爭，現(xiàn)在機器正在與人類大腦競爭。我們正在面對與完全由我們自己創(chuàng)造的產(chǎn)物競爭的前景。另一個典型的答案是如果機器將替代我們進(jìn)行全部的工作，那么我們將自由進(jìn)行業(yè)余的活動。經(jīng)濟(jì)學(xué)家約翰•梅納德•凱恩斯早在1930年就已經(jīng)提出了這個問題，他猜測到2030年時大多數(shù)人每周將只工作15小時，而且讓人們忙碌的最主要是業(yè)余活動。
我并不認(rèn)為這是一個光明的前途。首先，如果機器能夠勝任技術(shù)所有的工作，那么我們甚至不清楚每周15小時的工作是否必要。其次，我不認(rèn)為被空閑所充滿的生活前景具備吸引力，工作對于人類幸福來說是必不可少的。第三，我們的經(jīng)濟(jì)體系將經(jīng)歷一種徹底的調(diào)整來使數(shù)十億人能夠擁有空閑的生活。最后人們告訴我，我的的擔(dān)心似乎只是對于很遙遠(yuǎn)的未來而且我們不需要擔(dān)心。我認(rèn)為這個答案是令人無法接受的。2045年距離我們只有一代人的距離。我們不能推卸責(zé)任不關(guān)心下一代的幸福。比爾-喬伊在2000年提出了一個過渡計劃，“通過限制我們對于某種知識的追求來限制那些太危險的技術(shù)發(fā)展。”我認(rèn)為是時候把這個后果的問題直接擺在桌面上來了。我們不能盲目的追求人工智能的目標(biāo)而不考慮它所帶來的后果。