眾所周知，人工智能的黑暗面在于自主武器橫行。一款由人工智能驅(qū)動的殺手無人機(jī)，其價格僅相當(dāng)于一部智能手機(jī)。因此，許多人工智能研究人員和機(jī)器人專家呼吁禁止某些類型的自主武器，并阻止“全球人工智能軍備競賽”。
“如果我們能弄清楚如何讓機(jī)器人裁判變得透明和公正，人工智能可以讓我們的法律系統(tǒng)更公平、更高效。”泰格馬克解釋道。法律體系中典型的人為錯誤是由偏見、疲勞或最新知識匱乏造成的。需要設(shè)計機(jī)器人的法律分類、責(zé)任和權(quán)利。在一場涉及無人駕駛汽車的事故中，誰應(yīng)該承擔(dān)責(zé)任：居住者、所有者、制造商還是汽車本身？
Tegmark認(rèn)為，毫無疑問，人工智能主導(dǎo)的時代將會改變就業(yè)，最好的職業(yè)將是那些涉及人、不可預(yù)測性和創(chuàng)造力的職業(yè)。不幸的是，研究表明，科技對教育程度更高、科技公司的所有者和少數(shù)“超級明星”有利。
政府應(yīng)該制定促進(jìn)研究、教育和企業(yè)家精神的政策，確保基本收入水平，同時賦予人們一種工作與生活的使命感。
在人工智能研究人員、科技巨頭和創(chuàng)業(yè)者的參與下，“生命研究學(xué)院”的未來將在這方面成為“人工智能安全”的主流。它支持諸如與政策制定者對話、尊重隱私、共享利益、共同利益和人類控制等原則。這樣做的目的是為了在人工智能完全起飛之前改善人類社會，在技術(shù)使其過時之前實(shí)現(xiàn)現(xiàn)代化，并讓年輕人在將權(quán)力交給他們之前，讓他們了解如何創(chuàng)造出強(qiáng)大的技術(shù)。
目標(biāo)
人類的目標(biāo)和動機(jī)有著復(fù)雜的相互作用，比如生存、資源獲娶好奇心和同情心。有些人已經(jīng)放棄了早期的生物目標(biāo)，比如復(fù)制。智能行為與目標(biāo)實(shí)現(xiàn)相關(guān)聯(lián)，早期的人工智能計劃圍繞著編程機(jī)器來實(shí)現(xiàn)人類目標(biāo)。目標(biāo)設(shè)計涉及到子目標(biāo)、倫理、學(xué)習(xí)和強(qiáng)化等問題。
但隨著人工智能變得越來越復(fù)雜，我們需要問人工智能是否應(yīng)該保留我們已經(jīng)給出的目標(biāo)。我們是否應(yīng)該讓AI更廣泛、更廣泛的目標(biāo)？這是誰的目標(biāo)？我們能改變AI的目標(biāo)嗎？“意義”的含義是什么？人類在科學(xué)、宗教和哲學(xué)方面的目標(biāo)是什么？有朝一日，人類的目標(biāo)會像螞蟻的目標(biāo)一樣令人沮喪嗎？
意識
Tegmark提出了一種對意識實(shí)體的定義，即那些可以自由思考、記憶、計算、學(xué)習(xí)、經(jīng)驗、交流和行動的人，無關(guān)傷害他人。作者強(qiáng)調(diào)，隨著人工智能變得越來越復(fù)雜，我們也需要認(rèn)識到，我們對意識意義的哲學(xué)探索現(xiàn)在有一個緊迫的截止日期。
一些棘手的問題產(chǎn)生，比如理解無意識行為是如何影響意識活動的？意識和無意識系統(tǒng)之間的物理屬性區(qū)別是什么？以及為什么事物是有意識的？自動駕駛汽車經(jīng)歷著什么？人工智能有自由意志嗎？人工智能會受到影響嗎？AI應(yīng)該有權(quán)利嗎？
人類意識研究反映了大腦理論、物理學(xué)和信息科學(xué)等領(lǐng)域的融合。“如果人工智能是可能的，那么與人類的經(jīng)驗相比，人工智能體驗的空間可能是巨大的，”Tegmark解釋道。人工智能可能會挑戰(zhàn)人類中心主義的理念（認(rèn)為人類是地球上最聰明的物種，因此是獨(dú)一無二和優(yōu)越的）。
人工智能起飛：智力爆炸？
生命進(jìn)化的原則包括協(xié)作、競爭和控制，這些都被技術(shù)放大了。如果我們有一天創(chuàng)造出人類水平的AGI（artificial general intelligence），那么它會以多快的速度制造出一場智力爆炸呢？我們能控制這個嗎？如果不是，那我們要花多長時間才能控制我們的世界？在這樣一個世界里，我們?nèi)祟愂窃跇O權(quán)主義的環(huán)境中還是在一個被授權(quán)的舞臺上？
“人工智能突破”章節(jié)以科幻小說的形式講述了這樣的問題。被不那么聰明的人類奴役，AI會不會感到不高興？人類應(yīng)該在人工智能系統(tǒng)中創(chuàng)造什么目標(biāo)來防止兵變？人工智能能對系統(tǒng)進(jìn)行主導(dǎo)，并破解它嗎？我們會生活在兩極世界（人類和人工智能）嗎？
我們什么時候才能到達(dá)這條岔路口——當(dāng)我們這么做的時候，我們能對人工智能施加多大的控制，人工智能又能控制多少呢？根據(jù)Tegmark的說法，真正的答案不是會發(fā)生什么，或者應(yīng)該會發(fā)生什么？而是我們想要什么樣的未來？