從歷史的角度來看，出現(xiàn)重大技術進步的時間間隔在縮短：從農(nóng)業(yè)、印刷術、電力到電腦。除了技術的進步，進化過程中出現(xiàn)里程碑式突破的間隔也在不斷縮短：從真核生物、脊椎動物、靈長類動物到智人。很多評論家認為人類發(fā)展的軌跡是一條復雜的曲線，一直延伸到遠古時代。但是，我們只需要研究這條曲線中科技的部分，并推演科技曲線的未來趨勢。我們發(fā)現(xiàn)，未來會出現(xiàn)一個轉(zhuǎn)折點，人類發(fā)明的技術會讓自己落伍。
由于物理規(guī)律的制約，指數(shù)級技術發(fā)展最終會遇到瓶頸。指數(shù)級技術發(fā)展的停滯可能有各種經(jīng)濟、政治或者科學的原因。但是，我們先假設與人工智能以及神經(jīng)技術最相關的發(fā)展將會保持勢頭，加快破解大腦秘密的速度，并且最終合成人工智能。我們不難相信，不管是人工智能還是人類智能，都會遵循加速回報定律，最終到達技術奇點。
有些作者預言，奇點的到來會在 21 世紀中葉。我們可以不把奇點只作為預言來研究，預言畢竟是比較虛無縹緲的。首先，奇點是一個很有意思的深刻的學術話題，無論它最后是否真的會出現(xiàn)或不知什么時候出現(xiàn)。其次，奇點出現(xiàn)的可能性雖然看起來很微小，但是卻值得我們從務實的角度，在理性的基礎上討論它。即使未來學的理論有瑕疵，但只要未來學描述的場景存在可能性，就值得我們認真關注。如果奇點真的出現(xiàn)，對人類來講，其后果將是顛覆性的。
這些顛覆性的后果都有哪些？如果人類到達奇點，世界會變成什么樣子？我們對奇點的到來是應該恐懼，還是應該歡迎？人類在今天或未來應該做些什么來保證最好的結(jié)果？本書旨在回答這一系列非常宏大的問題。奇點這個概念會引發(fā)我們對一些更加原始的哲學問題的討論：人性的本質(zhì)是什么？人類最根本的價值觀是什么？我們應該如何生存？人類為了迎接奇點需要放棄什么？奇點在給人類的生存帶來機遇的同時，也帶來挑戰(zhàn)。
奇點的到來可能會威脅到人類的生存。這聽起來像是大其詞，但是今天的新興技術已經(jīng)超越了以往，是人類從來沒有見過的。可能會有人研制經(jīng)過基因改造的病毒，提高其傳染性和抗藥性只有瘋子才會做這種事，但是，人類有可能意外地制造出帶來災難的病毒。高級人工智能也有可帶來生存威脅，其原因相似，但更微妙。我們會在后文中研究這些問題。如果未來某個公司、政府、組織，甚至是個人有可能制造出能實現(xiàn)指數(shù)級自我提升、極度渴求資源的人工智能，這一可能性足以讓我們提高警惕。
從樂觀的角度來看，技術奇點帶來了生存的機會，也就是哲學上的“存在”的意義。當我們有能力構(gòu)建大腦時，就可以突破生物的限制，延長人類的壽命。人類的最終極限就是死亡，生物的身體是很脆弱的，會受到疾并意外傷害和衰老的限制。人類的意識依賴其生物大腦，但是，未來人類將有能力修復任何對大腦的損害，并最終在其他基質(zhì)上構(gòu)建大腦，這樣就可以突破意識的壽命極限，將其無限延長。
延長生命是“超級人類主義”的一個分支，但是我們?yōu)槭裁匆獫M足于人類的大腦？如果我們能夠重建大腦，為什么不通過重新設計，提升大腦的能力呢（人類的身體也可以通過重建提升，但是本書只討論智能）？通過醫(yī)藥手段可以提高記憶力、學習能力和注意力，這是比較傳統(tǒng)的提升方法。但是，既然人類能夠從無到有重建大腦，就一定能對認知能力進行重組和提升。當我們具備了這種提升能力，又該做什么呢？有些人認為，這種能力至少能夠應對超級智能帶來的存在風險，趕上人工智能的發(fā)展腳步，不過在這個過程中人類的認知方式可能會發(fā)生根本改變。
技術奇點可能是一種生存機會，要理解這一概念，必須放棄人類的視角，采取一種更具宇宙性的視角。“人類社會和生活在人類社會中的人們的大腦已經(jīng)到達了宇宙的極限”是一種人類中心主義的想法。也許智能的復雜程度還有很大的提升空間?？赡芪磥磉€會出現(xiàn)比我們更高級的意識形式。
我們應該阻止還是迎接這一情況的到來？我們能理解這樣的未來會是什么樣嗎？不管奇點是否已經(jīng)臨近，這些問題都值得思考。因為在思考這些問題的同時我們對自身有了新的理解，也理解了我們在大千世界中的位置。