關于超級智能的問題，他說到：“我們需要確保目標精確詳細，并且沒有什么模糊的地方，不會隨著時間的流逝而發(fā)生變化。但在所有的系統(tǒng)中，最頂層目標仍然由它的設計者確定。這可能需要系統(tǒng)自己想辦法達成目標，但它不能自行創(chuàng)造目標。”
他的語氣讓人放心。“看吧，這些是有趣又有難度的挑戰(zhàn)。因為這些全新的強大技術需要符合倫理和有責任感地使用，而這就是我們積極呼吁討論和研究這一事宜的原因，所以當那個時間窗口到來時，我們能夠已經做好了準備。”
這到底是個怎樣的時刻？當機器變成超級智能？還是機器超越了人類？他笑了，“不不不，我是說，在那之前。”（我知道他在開玩笑，盡管他的同事Shane Legg曾經在2011年明確表示：“我認為人類滅絕可能會發(fā)生，而技術可能會是罪魁禍首之一。”）Hassabis聲明：“我的意思是，當這些系統(tǒng)更加強大，而不僅僅是玩游戲，我們會將它們應用在更加具體、實際和重要的事情上，比如說醫(yī)療健康領域。然后，我們需要確保我們知道它們的能力能夠發(fā)展到什么地步。”他沖我咧嘴一笑，“這將阻止機器掌管世界這一場景的發(fā)生。”
Hassabis很愛笑。他非常友好，又極具說服力。他說的每件事都似乎都很有道理，而且并不自負，但誰知道呢：也許通用人工智能會在我們的掌控之下。但很多人持懷疑態(tài)度。“顯然，如果出現了一種在各方面都超過人類的數字智能，那『助理』這個詞就不再是個正確的描述了。”埃隆·馬斯克爭辯道，他最近將人工智能技術方面的進步描繪成人類在“召喚惡魔”。這位SpaceX創(chuàng)始人、特斯拉和PayPal聯合創(chuàng)始人也是DeepMind的早期投資者之一，但并非為了賺錢。“我不在乎為了投資而投資，”他告訴我，“我把錢投給DeepMind的唯一原因就是想要更加了解人工智能的進展和危害。如果我們不認真對待人工智能，一旦發(fā)生了什么不好的事情，銀行存款也會變得毫無意義。”
“埃隆是最聰明的人之一，和他交談很令人享受，”Hassabis不偏不倚的回應說，“我真的認為像他這樣的人喜歡人工智能是件非?？岬氖?，因為這足以說明這是件大事。”他表現的成熟老練，但其他領域的科學家對人工智能公開的隨意評論顯然激怒了他：畢竟你從來不會聽到他對粒子物理大放厥詞。
“通常，我發(fā)現那些沒有真正研究人工智能的人們并不完全理解這些。他們通常沒有跟很多人工智能專家深入交談，他們的思想實驗就隨著他們的想法跑偏了，因為他們都是基于那些我認為并不正確的設想。”他再一次提到，他成立的內部倫理委員會和咨詢董事會——由不同科學和哲學學科方面的領袖組成——將會管控通用人工智能技術的未來使用。他堅決維護他現階段保持繼續(xù)探索的決定。“之前從未有人走到過這一步，所以在接受大眾監(jiān)督之前，我們必須篩選做一些探索性工作。”他表示，這一初始階段是關于“讓所有人都跟上進度，然后在下一階段我們就能夠討論真正的算法和應用了。對很多涉及其中的人來說，這并不是他們的核心區(qū)域。我們需要他們的專業(yè)知識，但他們需要更好的了解究竟發(fā)生了什么。”
斯蒂芬·霍金被當作一個“跟上進度”的鼓舞人心的例子被提及，他們最近在劍橋進行了私人談話。“顯然能夠跟他見面就已經是非常不可思議的榮譽了，”他表示，并拿出他的手機給我看他的自拍。“我們只安排了一個小時，但他有那么多問題以致于我們最后交流了四個小時。這導致他錯過了午餐，所以他的看護對我不太高興。”
Hassabis指出，在那次會面之后，霍金就不在媒體面前提及“任何人工智能煽動性言論”了。最驚奇的是，在他上月的BBC Reith講座中，他推斷的人類威脅清單中并沒有包括人工智能。“可能真的會有些用吧，聽到更多實用的東西，更多我們可能創(chuàng)造出的真正系統(tǒng)，以及我們對這些系統(tǒng)的檢查和控制，”Hassabis表示。“一旦你理解了這項工程，這一切看起來就更容易理解了，也更加合理。”
當然，在我身上還看不到任何希望，但他真的相信霍金變了嗎？“我認為最終會的，他會非常放心的。他有著非常風趣的干幽默，就在我離開前，我問他，‘那么你認為如何？’他打出了‘我祝你好運。’之后，調皮地沖我眨眨眼，又補充道，‘但不要太好運。’”Demise Hassabis向我露出會心一笑。“我認為，‘我可以認為我贏了。’”