18、人工智能軍備競賽：
應(yīng)該避免在自動化致命武器上開展軍備競賽。
19、能力警告：
目前還沒有達(dá)成共識，我們應(yīng)該避免對未來人工智能技術(shù)的能力上限做出強(qiáng)假定。
20、重要性：
先進(jìn)的人工智能代表了地球生命歷史上的一次深遠(yuǎn)變革，應(yīng)當(dāng)以與之相稱的認(rèn)真態(tài)度和充足資源對其進(jìn)行規(guī)劃和管理。
21、風(fēng)險：
針對人工智能系統(tǒng)的風(fēng)險，尤其是災(zāi)難性風(fēng)險和存在主義風(fēng)險，必須針對其預(yù)期影響制定相應(yīng)的規(guī)劃和緩解措施。
22、不斷自我完善：
對于能夠通過自我完善或自我復(fù)制的方式，快速提升質(zhì)量或增加數(shù)量的人工智能系統(tǒng)，必須輔以嚴(yán)格的安全和控制措施。
23、共同利益：
超級人工智能只能服務(wù)于普世價值，應(yīng)該考慮全人類的利益，而不是一個國家或一個組織的利益。