政策政治
對人工智能和自動化的擔憂也導致了對更強大的保護人們免受勞動力市場動亂影響的安全網(wǎng)的呼吁。尤其是一些人工智能評論者認為應(yīng)該建立一套福利系統(tǒng)，讓每個人（不管什么情況）都享有保障基本生存的收入（比如說一年 1 萬美元？）類似的想法在工業(yè)革命時也由 Thomas Paine 和 John Stuart Mill 等一些人提出過。其基本思想是：人們做得更多讓自己的收入增加時，這個福利不會減少，這樣人們就會愿意去做事。這會讓人們能自由決定自己希望做什么，活在失業(yè)中接受合適的再培訓。很多預言會有終極工作破壞的人都認為可以把這個情況用來保持消費型經(jīng)濟和支持非勞動人口。如果大部分工作都被自動化取代了，我們就將需要一種重新分配財富的可選機制。
與改革教育系統(tǒng)相比，保障基本收入似乎更簡單、更有吸引力。這個想法在技術(shù)行業(yè)內(nèi)享有廣泛支持：創(chuàng)業(yè)孵化器 Y Combinator 甚至還支持著加利福尼亞州奧克蘭市的一項對該想法的研究。其總裁 Sam Altman 認為基本保障收入可以確?！赶蛭磥砉ぷ鞯钠椒€(wěn)過渡」?？雌饋硭坪跏且粋€未來烏托邦，但一些懷疑論的觀點認為這會導致抑制技術(shù)造成的不平等和抱怨，從而讓極客能發(fā)明無拘束的未來。Altman 先生說，根據(jù)他的經(jīng)驗，技術(shù)人會支持基本收入保障的想法。
但基本收入保障的前提是要有收入，這就將意味著更高的稅收。此外因為人們本身的財富水平和各地的消費水平不一樣，公平性方面也難以得到保證。而且還有人認為保障基本收入事實上會抑制人們接受再訓練，催生一個不愿意勞動（而不是不能勞動）的「懶人」群體；從而加重納稅人的負擔。
芬蘭和荷蘭等富裕國家計劃在明年開始有限地試驗基本收入政策，而其它較為貧窮的國家顯然從沒考慮過這樣的事。自動化的發(fā)展對地緣政治的影響也將逐漸顯現(xiàn)。MIT 的 David Autor 說，自動化對發(fā)展中經(jīng)濟體的影響比對富裕經(jīng)濟體的影響更大，因為發(fā)展中經(jīng)濟體有更高比例的體力勞動工作：低工資的工人制造廉價的產(chǎn)品、在客服中心提供廉價的服務(wù)、在國內(nèi)或海外做建筑工作……如果自動化使發(fā)達國家能在這些方面自給自足，它們對發(fā)展中國家提供的產(chǎn)品和服務(wù)的需求就越少——發(fā)展中國家將失去在這些方面的比較優(yōu)勢，而與此同時，機器人和人工智能的技術(shù)和專利也基本上都掌握在發(fā)達國家手里。
自動化可能會讓發(fā)達國家通過全面工業(yè)化斷掉貧窮國家的發(fā)展機會。經(jīng)濟學家常談?wù)摗高^早去工業(yè)化」；哈佛大學的 Dani Rodrik 指出第一次世界大戰(zhàn)前英國的制造業(yè)就業(yè)人數(shù)達到了峰值的 45%，而巴西、印度和中國的制造業(yè)就業(yè)人數(shù)比例已經(jīng)度過了峰值，卻還沒超過 15%。這是因為制造業(yè)已經(jīng)遠比過去自動化了。據(jù)花旗銀行和牛津大學馬丁學院的一份報告指出，中國已經(jīng)取代美國成為了第一大工業(yè)自動化市常然而對于非洲和南美的其它一些新興經(jīng)濟體而言，自動化卻并不是好消息，它們再也無法通過「農(nóng)田到工廠」的勞動力轉(zhuǎn)移模式來推動經(jīng)濟增長了，它們必須尋找新的增長模式。喬治·梅森大學經(jīng)濟學家 Tyler Cowen 說：如果沒有制造業(yè)的工作構(gòu)成中產(chǎn)階層，這些國家的「核心經(jīng)濟結(jié)構(gòu)中將出現(xiàn)非常高的收入不平等?！?/p>
5.道德：弗蘭肯斯坦的回形針
技術(shù)專家不相信人工智能會失去控制，但還是會有道德上的憂慮
隨著《末日侵襲》這部電影情節(jié)的發(fā)展，它看起來也沒有那么可怕。所謂的「回形針最多化」（paperclip maximiser）是牛津大學哲學家 Nick Bostrom 提出的一個思維實驗。這個實驗假設(shè)一個人工智能能夠希望能收集盡可能多的回形針。它會想盡一切辦法來收集回形針，并且會通過自我升級來找到收集回形針的新方法，它還會反抗一切阻止它做這件事情的企圖。最后它“把整個地球和一部分宇宙空間都變成了一個回形針制造工廠”。這種明顯非常愚蠢的試圖想表達一個非常嚴肅的觀點：人工智能不需要人類一樣的行為和心理動機。它們可能不會出現(xiàn)人類常會犯的錯誤和偏差，但是會犯別的錯誤，例如執(zhí)著于回形針。它們的目標已開始可能看起來是無害的，但如果人工智能能夠自我復制并升級自己的性能就會非常危險了。即使是一個運行在一臺不聯(lián)網(wǎng)的計算機上的「被束縛的超級人工智能」也會竭盡全力地勸說它的主人讓他獲得自由。先進的人工智能不僅僅是一門新技術(shù)，而是一個對人類的威脅，Bostrom 說。