我認(rèn)為這是完全有可能的。如果你在互聯(lián)網(wǎng)出現(xiàn)的時候仔細(xì)審視它，你會發(fā)現(xiàn)互聯(lián)網(wǎng)早期的兩個頂級應(yīng)用就是賭博和色情。然后，我們開始讓互聯(lián)網(wǎng)為企業(yè)和民眾謀福祉而工作，我們做出的選擇讓我們更善于利用互聯(lián)網(wǎng)。我想AI領(lǐng)域也會發(fā)生同樣的事情。如今，AI已經(jīng)被廣泛應(yīng)用于各種各樣的事情，從處理有爭議的停車罰單，到星巴克用它來預(yù)定咖啡，再到出售演唱會門票等。但我認(rèn)為，我們必須就“如何負(fù)責(zé)任地使用AI”做出決定。我已經(jīng)了解伊隆·馬斯克（Elon Musk）和馬克·扎克伯格（Mark Zuckerberg）的觀點，我相信他們都是對的。我認(rèn)為，這一切都取決于我們?nèi)绾巫龀鲞x擇，以及我們?nèi)绾卫肁I作為下一個競爭優(yōu)勢來擴大我們的員工隊伍。
現(xiàn)在，在這一切中，最大的未知數(shù)是一個“糟糕的演員”，或者某個國家，可以用AI做什么。我仍然沒有完整的答案，但最讓我擔(dān)心的就是自動化戰(zhàn)爭的情況。人們認(rèn)為，通過AI，他們實際上可以限制損害，他們可以以非常精確的方式達到目標(biāo)。但問題是，AI還有很多未知之處。當(dāng)前的AI是不可信賴的，你把它引入可以成為大規(guī)模殺傷性武器的東西里面，如果出了問題（因為技術(shù)還在成熟），可能會造成前所未見的大規(guī)模破壞。所以，我想說的是，所有這三個要素：消除工作、創(chuàng)造新的就業(yè)機會以及給我們的種族帶來生存威脅，所有這些都有可能發(fā)生。最讓我興奮的是，AI將如何擴展和提升我們的工作能力。
【問】：讓我們重新回到工作崗位的話題上來，但是你剛剛提到了戰(zhàn)爭。首先，似乎有18個國家正在努力開發(fā)基于AI的系統(tǒng)。他們的觀點是雙重的。有一種說法是：“如果我不開發(fā)，還有17個國家正在努力開發(fā)它。”現(xiàn)在，軍方投下一枚炸彈，炸毀了所有的東西。讓我們看看地雷。地雷不是AI，它會炸飛任何東西。所以如果有人說：“我可以造AI地雷用來嗅火藥，它只會炸死攜帶武器的人。”如果你把戰(zhàn)爭看成是生活的現(xiàn)實，為什么你不希望那些更具歧視的系統(tǒng)呢？
薩克森納：這是個很好的問題，我相信這是絕對會發(fā)生的。但還要等很長時間，也許是5年或10年之后。我們正處于最危險的時期，有關(guān)AI的炒作遠遠超出AI當(dāng)前的真實狀態(tài)。這些AI現(xiàn)在是非常不穩(wěn)定的系統(tǒng)。就像我之前說的，它們不是以證據(jù)為基礎(chǔ)的，在AI中沒有任何的切換開關(guān)，沒有解釋能力，沒有任何性能是你能真正弄清楚的。還是以你的例子來說明，AI地雷能嗅出火藥，然后爆炸。如果我把地雷儲存在城市中心的槍械庫里，它會從那里的其他武器中嗅出火藥，然后引爆自己。今天，我們無法在這種程度上對AI進行可見性和控制，并確保在這種規(guī)模上應(yīng)用它。
我的觀點是，作為一個國家，每個國家都有特權(quán)。你看到普京（Putin）在談?wù)撨@個問題時說：“控制AI的國家將控制未來的世界。”沒有人把妖怪放回瓶子里。就像我們擬定戰(zhàn)爭規(guī)則一樣，就像我們在核戰(zhàn)爭中所做的那樣，將會有新的“日內(nèi)瓦公約式的規(guī)則”，我們將不得不提出這樣的規(guī)則，來決定這些負(fù)責(zé)任的AI系統(tǒng)如何以及在哪里被部署和監(jiān)管。因此，就像我們在化學(xué)戰(zhàn)中所做的那樣，我認(rèn)為將會有新的規(guī)則來限制以AI為基礎(chǔ)的戰(zhàn)爭。
【問】：但重點在于：核事件是二選一的事情，要么爆發(fā)造成毀滅，要么根本不會發(fā)生。但AI不是這樣的。你可以說狗糧碗空掉的時候會自動補上，那就是AI。你怎么解說法律，假設(shè)人們都遵循它，你怎么用簡單的英語來表達呢？用一種非常簡單的方式。
薩克森納：你已經(jīng)聽過艾薩克·阿西莫夫（Isaac Asimov）的機器人三原則。我認(rèn)為，作為一個社會，我們必須提出一種共同的思維模式，并將由各國提出類似的建議。事實上，我將在明年的倫敦北部召開一個會議，討論如何以一種負(fù)責(zé)任的方式在戰(zhàn)爭中使用AI和無人機。我認(rèn)為，第一個事件還沒有發(fā)生，不過你可以說，“假新聞”事件是已經(jīng)發(fā)生的大型AI事件之一，這可能會改變總統(tǒng)競選的結(jié)果。人們擔(dān)心黑客攻擊，我更擔(dān)心的是你無法追蹤到的攻擊源頭。我認(rèn)為這是一項需要去做的工作。
【問】：有一個武器系統(tǒng)確實做出了自動殺人的決定，正在評估它的軍方說：“我們需要有人監(jiān)督它。”所以他們修復(fù)了這個功能，當(dāng)然你可以關(guān)掉它。用這種方式來定義它幾乎是件棘手的事。聽起來好像你支持AI武器，只要它們不存在問題。