“一個(gè)好的未來(lái)是什么樣子？”特斯拉首席執(zhí)行官伊隆馬斯克（Elon Musk）在加利福尼亞州阿西洛馬的Beneficial AI會(huì)議上發(fā)言。“我們正走向超級(jí)智能，亦或是人類(lèi)文明的結(jié)束。”
全球2000多人，包括844名人工智能和機(jī)器人領(lǐng)域的專(zhuān)家聯(lián)合簽署了23條AI發(fā)展原則，呼吁全世界的人工智能領(lǐng)域在發(fā)展AI的同時(shí)嚴(yán)格遵守這些原則，共同保障人類(lèi)未來(lái)的利益和安全。
宇宙學(xué)家斯蒂芬霍金和特斯拉首席執(zhí)行官埃倫馬斯克本周公開(kāi)大力支持了一系列原則，用以確保擁有自主思考能力的機(jī)器保持安全發(fā)展，并符合人類(lèi)權(quán)益行事。
機(jī)器正逐年變得更加智能，研究人員相信他們?cè)谖磥?lái)幾十年內(nèi)可以擁有人類(lèi)智能水平。一旦他們達(dá)到這個(gè)程度，他們就可以開(kāi)始改善自己，并創(chuàng)造其他智能，甚至更強(qiáng)大的AI，牛津哲學(xué)家尼克博斯特羅姆和其他幾個(gè)該領(lǐng)域的專(zhuān)家認(rèn)為，應(yīng)當(dāng)稱(chēng)其為超級(jí)智能。
2014年，馬斯克警告說(shuō)，人工智能有可能“比核武器更危險(xiǎn)”，而霍金在2014年12月說(shuō)，人工智能可能會(huì)終結(jié)人類(lèi)。但它也是雙刃劍。AI也可以幫助治愈癌癥及減緩全球變暖。
2017年1月初舉行的“Beneficial AI”會(huì)議為基礎(chǔ)上建立起來(lái)的“阿西洛馬人工智能原則”，名稱(chēng)來(lái)自此次會(huì)議的地點(diǎn)美國(guó)加州的阿西洛馬（Asilomar）市，旨在確保AI為人類(lèi)利益服務(wù)。
本次會(huì)議參加者是業(yè)界最富盛名的領(lǐng)袖，如DeepMind首席執(zhí)行官Demis Hassabis和Facebook AI負(fù)責(zé)人Yann LeCun等。全球2000多人，包括844名人工智能和機(jī)器人領(lǐng)域的專(zhuān)家已聯(lián)合簽署該原則，呼吁全世界的人工智能領(lǐng)域在發(fā)展AI的同時(shí)嚴(yán)格遵守這些原則，共同保障人類(lèi)未來(lái)的利益和安全。完整名單可以見(jiàn)futureoflife.org/。
這一系列原則目前共23項(xiàng)，分為三大類(lèi)：
1、科研問(wèn)題
AI研究的目標(biāo)應(yīng)該是“有益的智能”。它應(yīng)該防止AI系統(tǒng)被黑客入侵。 它還應(yīng)該解決“維護(hù)人類(lèi)的資源和理想”。法律應(yīng)該“跟上AI的步伐”，應(yīng)該考慮人工智能“價(jià)值觀”的問(wèn)題。 此外，應(yīng)該努力使研究人員和法律/政策制定者合作，并且應(yīng)該“在AI的研究人員和開(kāi)發(fā)人員之間培養(yǎng)整體的信任和尊重文化。
2、倫理和價(jià)值觀
應(yīng)根據(jù)原則以一種安全和透明的方式開(kāi)發(fā)AI。 自主系統(tǒng)應(yīng)必須可以解釋它的行為。創(chuàng)建AI系統(tǒng)的人必須對(duì)這些系統(tǒng)的使用方式承擔(dān)責(zé)任。 自主系統(tǒng)的設(shè)計(jì)應(yīng)反映人類(lèi)的價(jià)值觀。人們應(yīng)該有機(jī)會(huì)控制這些系統(tǒng)共享和使用數(shù)據(jù)的方式。AI應(yīng)該盡可能使更多多的人受益，并應(yīng)該為人類(lèi)做出貢獻(xiàn)，而不是僅僅得益于某些組織或個(gè)人。有的國(guó)家在競(jìng)爭(zhēng)建立智能的自主武器 ，這是很大的潛在危害，應(yīng)該主動(dòng)積極的避免。
3、長(zhǎng)期問(wèn)題
我們不知道AI會(huì)有什么能力，應(yīng)該計(jì)劃“災(zāi)難性或風(fēng)險(xiǎn)”。
Beneficial AI會(huì)議上的一個(gè)小組討論會(huì)，包括埃隆馬斯克（最左邊）和DeepMind的CEO（手持麥克風(fēng)）
“人工智能已經(jīng)為世界各地的人們提供了日常使用的有益工具，”生命的未來(lái) (Future of Life)網(wǎng)站上聲明，“它的持續(xù)發(fā)展，須以后文原則為指導(dǎo)，在未來(lái)幾十年甚至幾個(gè)世紀(jì)，為幫助人類(lèi)更加強(qiáng)大提供很多驚人的機(jī)會(huì)。”
會(huì)議上，馬斯克坐在Hassabis、Bostrom、Tallinn和其他AI領(lǐng)域領(lǐng)導(dǎo)人組成的專(zhuān)家組中。 他們每個(gè)人都輪流回答他們所認(rèn)為的超級(jí)智能，Bostrom在一篇學(xué)術(shù)論文中把它定義為“一種比每個(gè)領(lǐng)域最優(yōu)秀的人類(lèi)智能還要優(yōu)秀的智能，這包括科學(xué)創(chuàng)造力、一般智力和社會(huì)技能。
當(dāng)小組被問(wèn)到超級(jí)智能是否可能，每個(gè)人都表示了十分的肯定，除了馬斯克，當(dāng)他說(shuō)“不”的時(shí)候應(yīng)該也是在開(kāi)玩笑?？梢?jiàn)，這些大佬都認(rèn)為超級(jí)智能的發(fā)生是遲早的事情。有趣的是，當(dāng)小組被問(wèn)到是否期待超級(jí)智能出現(xiàn)時(shí)，回答開(kāi)始出現(xiàn)矛盾了，有四個(gè)人思慮再三覺(jué)得“這很難說(shuō)”，而馬斯克說(shuō)，這“取決于它到底是什么類(lèi)型的智能了。”