【問】：你和我談過有關(guān)AI的話題，并說過在四五十年之后，可能需要量子計算機(jī)幫助計算。你提到了馬斯克及其對生存威脅的恐懼。他認(rèn)為，顯然我們已經(jīng)非常接近于通用人工智能（AGI），這就是他的恐懼所在，這也是霍金所關(guān)心的。你說過：“我同意這種擔(dān)憂，如果我們搞砸了，那就是生存威脅。”你如何看待這個問題：我們40年內(nèi)會有AGI嗎？
薩克森納：我認(rèn)為你不需要AGI來創(chuàng)造一個生存威脅。有兩個不同的維度。你可以通過建立一個極不可靠的自動武器系統(tǒng)來制造生存威脅，這種系統(tǒng)對通用智能一無所知，它只知道如何尋找和殺戮。而在錯誤的人手中，這可能真的是生存威脅。你可以在互聯(lián)網(wǎng)上創(chuàng)建一種病毒，它可以摧毀所有公共設(shè)施和應(yīng)急系統(tǒng)，而它不需要了解任何關(guān)于通用智能的信息。如果這種方式在沒有適當(dāng)?shù)臏y試或控制的情況下被釋放，就有可能拖垮經(jīng)濟(jì)和社會。我認(rèn)為，這些都是我們必須要意識到的結(jié)果。這些都是我們必須開始制定規(guī)則、指導(dǎo)方針和強(qiáng)制執(zhí)行的原因。這就是我認(rèn)為我們今天遠(yuǎn)遠(yuǎn)落后的兩個領(lǐng)域，也可以說是技能。
AI是一種全新的學(xué)習(xí)方式
【問】：OpenAI計劃的目的是讓AI成為單獨(dú)參與者無法開發(fā)的技術(shù)。在這種情況下，也就是指AGI，但會始終都這樣嗎？你認(rèn)為這是一個好的開端嗎？
薩克森納：是的，絕對如此。我認(rèn)為OpenAI可能需要其他幾百個類似的項目，以專注于AI的不同方面。就像我們的AI Austin和AI Global項目所做的那樣。我們關(guān)注的是在符合道德規(guī)范的情況下使用AI。擁有無人駕駛汽車是一回事兒，而擁有智能導(dǎo)彈則是另一回事兒。你如何駕駛載有4人的無人駕駛汽車，你如何在“證人箱”中交叉檢驗(yàn)它呢？AI的解釋能力如何？誰來負(fù)責(zé)？因此，在將這些知識應(yīng)用于智能產(chǎn)品時，我們需要考慮一整套新的倫理和法律。幾乎就像保險商實(shí)驗(yàn)室的AI那樣，需要將其融入到每個產(chǎn)品和每個流程中。這些都是我們的政府需要了解的事情，我們的監(jiān)管者需要保持警惕。
【問】：有一種理論認(rèn)為，如果要依賴政府，我們都會處于糟糕的狀態(tài)，因?yàn)榭茖W(xué)發(fā)展的速度要快于立法機(jī)構(gòu)作出反應(yīng)的能力。你有解決這個問題的辦法嗎？
薩克森納：我認(rèn)為有很多事實(shí)可以說明，尤其是我們最近圍繞技術(shù)在政府所看到的東西，存在很多優(yōu)點(diǎn)。我相信，我們所取得的成就和我們使用AI產(chǎn)生的結(jié)果，將取決于我們作為個體公民的行為，我們作為商業(yè)領(lǐng)袖的做法，以及我們作為慈善家所做的事情。美國最美妙的事情之一，就是有像蓋茨和巴菲特這樣的慈善家正在做的事情，他們現(xiàn)在擁有的資產(chǎn)比很多國家都多，而且他們也在負(fù)責(zé)任地利用這些財富。所以，我對美國創(chuàng)新的期望是，如果可以的話，也要以負(fù)責(zé)任的方式應(yīng)用AI。我相信，我們所有人都有能力去教育和管理這些事情，我們有責(zé)任傳播這些技術(shù)，并且能夠向前一步，開始提供幫助，并引導(dǎo)AI被以負(fù)責(zé)任的方式投入使用。
【問】：讓我們來看看你的“什么不是AI”清單，你列舉了五件事。其中一個你說“AI不是自然語言處理”，顯然，這是真的。你認(rèn)為圖靈測試有價值嗎？如果我們制造一臺能夠通過它的機(jī)器，這是一個基準(zhǔn)嗎？在這種情況下，我們做了什么了不起的事？
薩克森納：當(dāng)我在運(yùn)行沃特森的時候，我曾經(jīng)認(rèn)為它有價值，但我不再那么相信它了。我認(rèn)為它的適用性很有限，主要有兩個原因：一是，在你用機(jī)器代替人腦的特定過程中，你絕對需要進(jìn)行某種測試來進(jìn)行證明。更令人興奮的不是自動化或重復(fù)人類功能，而是人類大腦沒有想到或者沒有做過的事情。我給大家舉個例子：CognitiveScale正與一家非常大的媒體公司聯(lián)手，我們正在分析“超級碗”電視廣告，通過讓AI閱讀視頻廣告，找出到底是什么類型的創(chuàng)意（孩子、小狗還是名人）、在什么時候?qū)?chuàng)造最好的電視廣告會產(chǎn)生最大的影響。令人著迷的是，我們只是讓AI去做，而沒有告訴它該尋找什么。沒有圖靈測試證明這“是好是壞。”從聯(lián)系角度來看，AI帶回來的東西有十到十二層的深度，這是人類大腦通常不會想到的東西。我們?nèi)匀粺o法描述為什么會有這樣的聯(lián)系。