2006年，達(dá)特茅斯召開(kāi)了一個(gè)名為“人工智能@50”的會(huì)議。當(dāng)時(shí)的共識(shí)是50年，那時(shí)我說(shuō)的是23年。我們剛剛在阿西洛瑪舉辦了一個(gè)人工智能倫理會(huì)議，當(dāng)時(shí)的共識(shí)是在20到30年之間，而那會(huì)我說(shuō)是13年。我還是比較樂(lè)觀，但并沒(méi)有那么樂(lè)觀，越來(lái)越多的人認(rèn)為我太保守了。
我沒(méi)有提到加速回報(bào)定律的一個(gè)關(guān)鍵問(wèn)題是：硬件不僅會(huì)呈指數(shù)級(jí)增長(zhǎng)，軟件也同樣如此。我感覺(jué)越來(lái)越自信，我認(rèn)為人工智能群體正越來(lái)越有信心，相信我們離這一里程碑不遠(yuǎn)了。
我們將與人工智能技術(shù)結(jié)合，讓我們變得更聰明。它已經(jīng)做到了。這些設(shè)備都是大腦擴(kuò)展器，人們也會(huì)這么想，這是一種新事物。就在幾年前，人們還沒(méi)有把他們的智能手機(jī)看做是大腦擴(kuò)展器。按照定義，它們會(huì)進(jìn)入我們的身體和大腦，但我認(rèn)為這是一個(gè)武斷的區(qū)分。雖然它們?cè)谖覀兊纳眢w和大腦之外，但它們已經(jīng)是大腦的延伸，它們會(huì)讓我們變得更聰明、更有趣。
【尼古拉斯·湯普森】：請(qǐng)解釋一下政策制定者的框架，他們應(yīng)該如何看待這種加速技術(shù)、他們應(yīng)該做以及他們不應(yīng)該做的事情。
【雷·科茲威爾】：人們對(duì)人工智能非常關(guān)注，如何保證技術(shù)的安全，這是一種兩極分化的討論，就像現(xiàn)在很多討論一樣。實(shí)際上，我在很長(zhǎng)一段時(shí)間里都在談?wù)摮兄Z和危險(xiǎn)。技術(shù)永遠(yuǎn)都是一把雙刃劍?；鹗刮覀兣?，為我們烹飪食物的同時(shí)，也能燒毀我們的房子。這些技術(shù)比火更加強(qiáng)大。我認(rèn)為我們應(yīng)該經(jīng)歷三個(gè)階段，至少我是這么認(rèn)為的。首先是為能有機(jī)會(huì)解決一直以來(lái)的難題而感到高興：比如貧窮、疾病等等。然后要警告這些技術(shù)可能具有破壞性，甚至?xí)?lái)生存風(fēng)險(xiǎn)。最后，我認(rèn)為我們需要指出的是，我們必須意識(shí)到，除了我們已經(jīng)取得的進(jìn)步，我們?cè)诘懒x上必須持續(xù)推動(dòng)這些技術(shù)的發(fā)展。這是一個(gè)完全不同的問(wèn)題，人們認(rèn)為情況正在變得更糟，但實(shí)際上情況正在變得更好，仍然有很多的人類(lèi)苦難需要去解決。只有人工智能領(lǐng)域取得的持續(xù)發(fā)展，才能使我們繼續(xù)克服貧困、疾病和環(huán)境退化，但同時(shí)我們也將面臨危險(xiǎn)。
這是一個(gè)很好的框架。四十年前，有遠(yuǎn)見(jiàn)卓識(shí)的人看到了生物技術(shù)的前景和風(fēng)險(xiǎn)，從根本上改變了生物學(xué)，讓生物學(xué)在正確的道路上獲得了長(zhǎng)足發(fā)展。因此，他們?cè)诎⑽髀瀣數(shù)臅?huì)議中心舉辦了一場(chǎng)“阿西洛瑪會(huì)議”，并提出了道德準(zhǔn)則和策略，即如何保證這些技術(shù)的安全。現(xiàn)在已經(jīng)是四十年后了。我們正受到生物技術(shù)的臨床影響。今天是涓涓細(xì)流，未來(lái)十年將是一場(chǎng)洪水猛獸。到目前為止，因?yàn)E用生物技術(shù)而受到傷害的人數(shù)為零。這是一個(gè)很好的學(xué)習(xí)模型。
我們剛剛舉行了第一屆關(guān)于人工智能倫理的阿西洛瑪會(huì)議。這些倫理準(zhǔn)則中有很多，特別是在生物技術(shù)領(lǐng)域，已經(jīng)寫(xiě)入了法律。所以我認(rèn)為這就是我們的目標(biāo)。最極端的是，“讓我們禁止這項(xiàng)技術(shù)”，或者“讓我們慢下腳步”。這的確不是正確的方法。我們要以一種建設(shè)性的方式來(lái)引導(dǎo)。有一些策略可以做到這一點(diǎn)，這是另一個(gè)復(fù)雜的討論。
【尼古拉斯·湯普森】你可以想象一下，國(guó)會(huì)可能會(huì)說(shuō)，在某種技術(shù)領(lǐng)域工作的每個(gè)人都必須公開(kāi)自己的數(shù)據(jù)，或者必須愿意分享他的數(shù)據(jù)集，至少要讓競(jìng)爭(zhēng)激烈的市場(chǎng)戰(zhàn)勝這些難以置信的強(qiáng)大工具。你可以想象，政府會(huì)說(shuō)，“實(shí)際上，我們將會(huì)有一個(gè)由政府資助的大項(xiàng)目，就像OpenAI一樣，但是由政府管理。”你可以想象，有一場(chǎng)巨大的國(guó)家基礎(chǔ)設(shè)施運(yùn)動(dòng)來(lái)發(fā)展這項(xiàng)技術(shù)，所以至少負(fù)責(zé)公眾利益的核心人士可以控制其中的一部分。你有什么推薦的嗎？
【雷·科茲威爾】：我認(rèn)為開(kāi)源數(shù)據(jù)和算法通常是一個(gè)好主意。谷歌將所有的人工智能算法與開(kāi)源的附源代碼（TensorFlow）都放在公共領(lǐng)域。我認(rèn)為這實(shí)際上是開(kāi)源和不斷加速的回報(bào)定律的結(jié)合，它將使我們更接近理想。有很多問(wèn)題，比如隱私，這些都是維護(hù)的關(guān)鍵，我認(rèn)為這個(gè)領(lǐng)域的人通常都很關(guān)心這些問(wèn)題。目前還不清楚正確答案是什么。我認(rèn)為我們想要繼續(xù)進(jìn)步，但是當(dāng)你有這么大的權(quán)力時(shí)，即使是出于善意，也會(huì)有濫用的情況。
【尼古拉斯·湯普森】：你擔(dān)心什么？你看待未來(lái)非常樂(lè)觀。但是你擔(dān)心什么呢？