這產生了下一個問題：當它們超越人類時，一切將會怎樣？
如果機器人超越人類？
進化的定律只有一條，即適者生存。也許人類會成為落后的一方，最終被鎖在動物園里供機器人觀賞。也許這就是我們的命運：我們孕育演化出了這些超人機器人，然后退場。而它們把我們看成是在它們的演化進程中的原始祖先。
在某一天，我們不再是地球上智力最高的生物，而且我們的創(chuàng)造 物也許能夠復制它們自己，并創(chuàng)造出比它們還聰明的機器人。然后，這個自我復制機器人的大軍將創(chuàng)造無窮無盡的下一代機器人，每一代都比前一代聰明。理論上， 機器人能夠在很短的周期內創(chuàng)造更聰明的下一代，最終，這個過程將呈指數級膨脹，直到最后，在它們貪得無厭的變得更加聰明的要求下，吞噬了這個行星的資源。
這就是“奇點”，這個詞原來來自相對物理學世界，代表重力為無限大的點，任何東西都不能從這里逃逸，包括光，所以它代表了一個視野，超過這個視野，我們什么也看不見。
發(fā)明家雷·庫茲威爾是奇點理論忠實的代言人。他喜歡根據技術 的指數增長進行預測。在1999年，他寫了一本暢銷書《靈魂機器的時代，當計算機超過人的智力》，預測候機器人于什么時將在智力上超過我們。在2005 年，他寫了《奇點臨近》，并且詳細闡述這些預測，稱計算機超過人的智力的決定性的一天很快就會來臨。
他預測，到2019年，1000美元級別的個人計算機就將具 有和人的大腦一樣強的能力。此后不久，計算機將把我們甩在后面。到2029年，同樣價格的計算機將比人的大腦強大1000倍。到2045年，這一價格的計 算機將比每個人合起來的智力強10億倍，即便是一臺小型計算機也將超過整個人類的能力。
在他的想象中，2045年后的計算機將變得非常先進，甚至能夠復制自身、智力不斷地增加，產生失控的奇點。為了滿足它們永無止境的貪婪及不斷增加計算能力的欲望，它們將開始吞噬地球、小行星、行星、恒星，甚至影響宇宙本身的歷史。
終結者T-800的視覺及思維界面
庫茲威爾相信，在這樣的未來中，我們要想的不是如何對抗智能機器的入侵，而是要與這個技術融合。我們要把這些智能的設備放在我們的身體和大腦里，讓我們活得更長壽，更健康。
沒有人知道最后到底會怎樣，未來是否會像《終結者》或《黑客帝國》所描述的那樣，成為人類時代的黃昏絕響，但也許在我們面前還存在著另外一條光明的道路。
我們可以與人工智能友好共處嗎？
在現實的研究領域以及許多科幻作品里，科學家們采取各種方法 保證機器人不會造成危險。比如他們放一個芯片在機器人的大腦里，如果機器人有了謀殺人類的念頭，就自動將它關閉。或者也可以創(chuàng)造專門的機器人獵手，用來壓 制不正常的機器人。這些機器人獵手專門設計成有超級速度、強度和協調能力，并且了解任何機器人系統(tǒng)的弱點，能夠捕捉錯誤的機器人。當然，人類也可以訓練這 個技巧。電影《銀翼殺手》中有一個受過專門訓練的政府特工人員隊伍，哈里森·福特扮演的主角正是其中一員，他們有壓制任何機器人流氓所需要的技能。
終結者T-800被摧毀
科幻作家艾薩克·阿西莫夫正是這樣想的，他預想每一個機器人在工廠被加工時就被植入了三個定律，以防止它們失控。他在小說中設計出著名的“機器人三定律”，以防止機器人傷害自己或人類。
但更多的科學家傾向于設計“友好的人工智能”，讓它從一開始 就只執(zhí)行對人類有用的和慈善的任務，最終呈現良性的結果。這與阿西莫夫的思路略有不同。阿西莫夫的三定律是強加給機器人的，也許違背它們的意志。相反，在 “友好的人工智能”中，機器人是不受限制的，可以施行謀殺和傷害行為，也沒有什么規(guī)則能強加人為的道德。但是，這些機器人從一開始就要求它幫助人類而不是 毀滅他們，它們的最終目標是慈善的。