Kurzweil寫了五本人工智能（Artificial Intelligence，簡稱AI）方面的書，有一本是紐約時報的暢銷書《How to Create a Mind》。
兩位偉大的思想家看到了AI的危險。下面談?wù)勗鯓幼孉I安全。
著名物理學(xué)家史蒂芬·霍金【注1】最近發(fā)出了警告，如果人工智能超過了人類智能，就對人類文明的存在造成了威脅。數(shù)字貨幣、私人太空飛行和電子汽車的先驅(qū)Elon Musk，也表示了類似的擔(dān)憂。
如果AI成為了存在的威脅，那么它不會是第一個。在我孩提時代的、1950年人防演習(xí)期間，我坐在桌子底下。從那以后，我們就遇到了可比較的恐懼，比如生物恐怖主義者創(chuàng)造了一種人類無法抵抗的新病毒。火能夠溫暖我們、也能燒掉我們的村莊，技術(shù)總是一把雙刃劍。
典型的反烏托邦未來主義的電影，總是有一到兩個主人公或團體在為了控制人工智能而戰(zhàn)。AI正被集成到當(dāng)今世界。AI不是一只手或兩只手；它是10億或20億只手。持有智能手機的非洲孩子，比起20年前的美國總統(tǒng)，已經(jīng)能夠更加智能地訪問知識了。隨著AI更加聰明，它的用途仍然在增長。實際上，每個人的智力在近10年內(nèi)已經(jīng)被AI放大了不少。
我們在人群中仍然有沖突，每個群體都被AI放大了，這已有先例。但是，暴力呈現(xiàn)著深遠的、指數(shù)級的減少，我們可以從中感到安慰，正如Steven Pinker的2011年的書《The Better Angels of Our Nature》中提到的：為什么暴力減少了。根據(jù)Steven Pinker的觀點，雖然地點不同導(dǎo)致統(tǒng)計數(shù)據(jù)不同，但是戰(zhàn)爭的死亡率與六個世紀以前相比，已經(jīng)下降了數(shù)百倍。從那以后，謀殺降低了十倍。人們對此感到吃驚。暴力在上升的印象，起源于另一種趨勢：關(guān)于世界上負面的信息，有著指數(shù)級的詳實程度——它是被AI支持的另一種發(fā)展。
我們能夠部署一些策略來保持新興的、像AI安全之類的技術(shù)?？紤]到生物技術(shù)，或許已經(jīng)領(lǐng)先AI數(shù)十年了。在1975年召開的關(guān)于重組DNA的阿希洛馬會議評估了其潛在危險，并規(guī)劃了戰(zhàn)略以確保該領(lǐng)域的安全。從那以后，最后的方針已經(jīng)被行業(yè)做了改進，運轉(zhuǎn)非常好：在過去的39年，已經(jīng)沒有重大問題了，偶然的或故意的。我們現(xiàn)在看到了達到臨床實踐的藥物治療取得的巨大進步，遠遠沒有出現(xiàn)預(yù)期的問題。
對于AI的道德規(guī)范的考慮，可以退回到艾薩克·阿西莫夫（Isaac Asimov）1942年的短篇小說《環(huán)舞》（Runaround）【注2】的機器人三大定律【注3】，8年后，艾倫·圖靈在1950年發(fā)表的論文“計算機器與智能”中的AI領(lǐng)域。今天AI從業(yè)者的普通看法就是，我們要完成人類級別的AI仍然需要數(shù)十年。我更加樂觀地把時間壓在了2029年，但是不管怎么說，我們還有時間來規(guī)劃道德標準。
已經(jīng)有大學(xué)和企業(yè)在努力推動AI安全策略和方針了，有的已經(jīng)步入正軌。與阿希洛馬會議的方針類似，一個想法就是，清晰地定義每個AI程序的使命，建立加密的安全保護以阻止未授權(quán)用戶。
末了，我們能夠確保AI安全的最重要方法就是致力于人類管理和社會制定。我們已經(jīng)到了 人-機文明 的時代。未來避免消極沖突的最好方式，就是繼續(xù)發(fā)展我們社會理想，它極大地減少了暴力。
如今，AI正在推進疾病診斷、尋找治療方法、開發(fā)可再生清潔能源、幫助清潔環(huán)境、向全世界的人們提供高質(zhì)量的教育、幫助殘疾人（包括史蒂芬·霍金的聲音）以及在無數(shù)種其它方式上貢獻著力量。未來數(shù)十年，我們有機會在處理人類的巨大挑戰(zhàn)上邁開一大步。在控制這種危險時，我們在道義上有責(zé)任去實現(xiàn)這個諾言。這將不會是我們第一次在這方面取得成功。
注1：史蒂芬·霍金;，OCH，CBE，F(xiàn)RS，F(xiàn)RSA（英語：Stephen Hawking，1942年1月8日－），英國著名物理學(xué)家，是劍橋大學(xué)理論宇宙學(xué)中心研究主任?；艚鹱龀龊芏嘀匾暙I：他與羅杰·彭羅斯共同合作提出在廣義相對論框架里的彭羅斯–霍金定理，他理論預(yù)測黑洞會發(fā)射輻射，現(xiàn)稱為霍金輻射。http://zh.wikipedia.org/wiki/%E5%8F%B2%E8%92%82%E8%8A%AC%C2%B7%E9%9C%8D%E9%87%91