“阿西洛馬人工智能原則”是開發(fā)安全AI的重要指南，它們得到了AI社區(qū)和廣大從業(yè)者的廣泛支持。路易斯維爾大學(xué)網(wǎng)絡(luò)安全實(shí)驗(yàn)室主任Roman Yampolskiy說(shuō)：“從簽署名單數(shù)量可以看出，對(duì)這些原則的巨大支持為人工智能安全這個(gè)年輕的領(lǐng)域提供了可信度，但它仍然需要面對(duì)眾多對(duì)AI風(fēng)險(xiǎn)的否認(rèn)者，他們?nèi)耘f拒絕相信設(shè)計(jì)不當(dāng)或惡意的AI /超級(jí)智能可能給人類帶來(lái)巨大風(fēng)險(xiǎn)”。
| 點(diǎn)擊視頻，觀看這次科技大佬之間生動(dòng)的圓桌討論
在電影“她(Her)”中，人類愛上了人工智能。
阿西洛馬人工智能23原則原文：
科研問(wèn)題
1）研究目標(biāo)：人工智能研究的目標(biāo)不是為了創(chuàng)造不受指揮的智能，而是有益的智能。
2）研究經(jīng)費(fèi)：對(duì)人工智能進(jìn)行投資的同時(shí)，要保證有經(jīng)費(fèi)用于研究如何有益地使用人工智能，研究包括計(jì)算機(jī)科學(xué)、經(jīng)濟(jì)學(xué)、法律、倫理以及社會(huì)研究中的棘手問(wèn)題，比如：
如何使未來(lái)的人工智能系統(tǒng)變得高度穩(wěn)健，即系統(tǒng)會(huì)執(zhí)行我們所想的而不會(huì)發(fā)生故障或被入侵？
如何通過(guò)自動(dòng)化提升我們的繁榮程度，同時(shí)保持人們的資源和意志？
如何升級(jí)我們的法制體系使其更公平高效，能夠跟得上人工智能的發(fā)展速度，并且能控制人工智能帶來(lái)的風(fēng)險(xiǎn)？
人工智能該與什么樣的價(jià)值體系保持一致？它該有怎樣的法律和倫理地位？
3）科學(xué)與政策的聯(lián)系：在人工智能研究員和政策制定者之間應(yīng)該要有富有建設(shè)性的和健康的交流。
4）科研文化：在人工智能研究員和開發(fā)者中應(yīng)該要培養(yǎng)起一種以合作、信任與透明為基礎(chǔ)的文化。
5) 避免不必要的競(jìng)爭(zhēng)：人工智能開發(fā)團(tuán)隊(duì)之間應(yīng)該積極合作，避免有人鉆空子導(dǎo)致安全標(biāo)準(zhǔn)被削弱。
倫理和價(jià)值
6）安全性：人工智能系統(tǒng)在它們整個(gè)的運(yùn)轉(zhuǎn)周期內(nèi)應(yīng)該是安全可靠的，并且能在可應(yīng)用的和可行的地方被驗(yàn)證。
7）失敗透明性：如果一個(gè)人工智能系統(tǒng)造成了損害，那么造成損害的原因要能被確定。
8）審判透明性：任何自動(dòng)系統(tǒng)參與的司法決策都應(yīng)提供令人滿意的解釋，可被有能力的人類監(jiān)管機(jī)構(gòu)審核。
9）負(fù)責(zé)：高級(jí)人工智能系統(tǒng)的設(shè)計(jì)者和建造者，在道德影響上，是人工智能使用、誤用和動(dòng)作的利益相關(guān)者，并有責(zé)任和機(jī)會(huì)去塑造那些影響。
10）價(jià)值觀一致：高度自主的人工智能系統(tǒng)應(yīng)該被設(shè)計(jì)，確保它們的目標(biāo)和行為在整個(gè)運(yùn)行過(guò)程里與人類的價(jià)值觀相一致。
11）人類價(jià)值觀：人工智能系統(tǒng)應(yīng)該被設(shè)計(jì)和操作，以使其和人類尊嚴(yán)、權(quán)力、自由和文化多樣性的理想相一致。
12）個(gè)人隱私：人們應(yīng)該擁有權(quán)力去訪問(wèn)、管理和控制他們產(chǎn)生的數(shù)據(jù)，考慮到人工智能系統(tǒng)有分析和使用那些數(shù)據(jù)的能力。
13）自由和隱私：人工智能在個(gè)人數(shù)據(jù)上的應(yīng)用必須不能不當(dāng)?shù)貏儕Z人們真實(shí)的或認(rèn)為的自由。
14）分享利益：人工智能科技應(yīng)該惠及并賦權(quán)最大可能的多數(shù)人。
15）共同繁榮：由人工智能創(chuàng)造的經(jīng)濟(jì)繁榮應(yīng)該被廣泛地分享，惠及全人類。
16）人類控制：人類應(yīng)該來(lái)選擇如何和是否委派人工智能系統(tǒng)去完成人類選擇的目標(biāo)。
17）非顛覆：高級(jí)人工智能被授予的權(quán)力應(yīng)該尊重和改進(jìn)健康的社會(huì)所依賴的社會(huì)和公民秩序。
，而不是顛覆。
18）人工智能裝備競(jìng)賽：致命的自動(dòng)化武器的裝備競(jìng)賽應(yīng)該被禁止。
更長(zhǎng)期的問(wèn)題
19）能力警惕：我們應(yīng)該避免關(guān)于未來(lái)人工智能能力上限的假設(shè)，但這一點(diǎn)還沒有共識(shí)。
20）重要性：高級(jí)人工智能能夠代表地球生命歷史的一個(gè)重大變化，我們應(yīng)該用與之相稱的警惕和資源來(lái)管理。