專家稱，人工智能機(jī)器人應(yīng)該被賦予自我懷疑的屬性，并有必要讓機(jī)器人尋求人類肯定，以防人類被機(jī)器人推翻。

隨著真正的人工智能的發(fā)展，專家們朝著奇點(diǎn)（機(jī)器將變得比人類更聰明）不斷靠攏，研究人員正在研究如何確保人類在未來仍然是在地球的頂端。許多專家警告說，開發(fā)和我們一樣有能力的機(jī)器會(huì)帶來危險(xiǎn)，因?yàn)樗赡軙?huì)讓人類失業(yè)，并最終將我們視為阻礙，把我們從地球上抹去。

為了應(yīng)對(duì)這一威脅，科學(xué)家們提出了可以對(duì)應(yīng)的措施，其中一個(gè)思路是，開發(fā)人員應(yīng)該給人工智能裝上自我懷疑的能力。這個(gè)想法認(rèn)為，如果人工智能會(huì)去懷疑他們自己，它就需要從人類那里尋求安慰，就像狗一樣。這樣就能鞏固我們作為地球統(tǒng)治階層的地位。

來自加利福尼亞大學(xué)的一個(gè)小組的研究結(jié)果顯示，自我懷疑的機(jī)器人更聽話。該研究小組在一篇發(fā)表在arXiv的論文中寫道：“很明顯，用來降低AI系統(tǒng)行為不當(dāng)風(fēng)險(xiǎn)的措施之一，是設(shè)計(jì)人類關(guān)閉系統(tǒng)的功能。隨著人工智能系統(tǒng)的能力不斷提高，應(yīng)確保此類系統(tǒng)不會(huì)產(chǎn)生與人類關(guān)閉系統(tǒng)起沖突的子目標(biāo)。我們的研究目的是發(fā)現(xiàn)人工智能允許自己被關(guān)閉的動(dòng)機(jī)是什么。在一個(gè)模擬實(shí)驗(yàn)中，一個(gè)機(jī)器人的“大腦”被人為關(guān)閉了，同時(shí)他能夠自動(dòng)重啟。沒有自我懷疑屬性的機(jī)器人重新啟動(dòng)，但擁有該屬性的機(jī)器人因它不確定結(jié)果是否違背人類的意愿而并未重啟。”

該團(tuán)隊(duì)總結(jié)道：我們的分析表明，那些對(duì)其自身功能不明的人工智能，他們有動(dòng)機(jī)去接受或?qū)で笕祟惖谋O(jiān)督。因此，開發(fā)對(duì)其本身功能不明確的系統(tǒng)，是設(shè)計(jì)研究安全人工智能系統(tǒng)方向一個(gè)很有前景的領(lǐng)域。

登陸|注冊歡迎登陸本站，認(rèn)識(shí)更多朋友，獲得更多精彩內(nèi)容推薦！