隨著該領(lǐng)域從實(shí)驗(yàn)室研究到有經(jīng)濟(jì)價(jià)值的技術(shù)跨越，已經(jīng)形成一個(gè)良性循環(huán)，甚至一個(gè)小的性能提升都會(huì)值得大筆投資，帶動(dòng)更多的投資研究?，F(xiàn)在有一個(gè)廣泛的共識(shí)，即人工智能研究正在穩(wěn)步地取得進(jìn)展，它對(duì)社會(huì)的影響可能會(huì)增加。這個(gè)領(lǐng)域潛在的利益是巨大的，因?yàn)槲拿魉芴峁┑囊磺卸际侨祟愔腔鄣漠a(chǎn)物，這種智慧被人工智能可能提供的工具放大后，我們能做到什么是我們無(wú)法想象的，不過(guò)那樣的話根除疾病和貧困將不再是遙不可及的。從這個(gè)意義上說(shuō)，人工智能有巨大的潛在好處。
人工智能的研究不僅僅是讓其性能更強(qiáng)，還應(yīng)該讓它對(duì)社會(huì)的效益最大化。這些考慮促成了AAAI 2008-09 Presidential Panel on Long-Term AI Futures以及人工智能影響的其他項(xiàng)目，并因此構(gòu)成了人工智能領(lǐng)域自身的延伸，而到目前為止，這些都主要集中在技術(shù)中立的目的。我們建議擴(kuò)大研究旨在確保越來(lái)越強(qiáng)大的人工智能系統(tǒng)是健壯的以及有益的：我們的AI系統(tǒng)必須做我們想要他們做的事情?，F(xiàn)在的這個(gè)人工智能研究?jī)?yōu)先級(jí)報(bào)告給了很多這樣可以幫助AI社會(huì)效益最大化的研究建議。由于人工智能這項(xiàng)研究是跨學(xué)科的。它涉及經(jīng)濟(jì)、法律和哲學(xué)以及計(jì)算機(jī)安全、形式化方法，當(dāng)然，還包括各種人工智能的分支。
綜上所述，我們認(rèn)為，研究如何使AI系統(tǒng)健壯及有益是重要的和及時(shí)的，這將讓我們?cè)诮窈蟮难芯恐杏芯唧w的方向。
短期研究?jī)?yōu)先項(xiàng)
人工智能工業(yè)應(yīng)用的成功，不管是在制造業(yè)還是信息服務(wù)領(lǐng)域能顯示對(duì)經(jīng)濟(jì)產(chǎn)生越來(lái)越大的影響，雖然很難區(qū)分這些影響到底是來(lái)自人工智能還是其他信息技術(shù)，但是眾多經(jīng)濟(jì)學(xué)家以及計(jì)算機(jī)學(xué)家都一致認(rèn)為，需要做一些有價(jià)值的研究來(lái)確保經(jīng)濟(jì)效益的最大化，并且減輕人工智能帶來(lái)的不利影響，其中包括逐漸增大的不平等以及失業(yè)情況。這些情況正在激勵(lì)著我們眾多的研究方向，包括經(jīng)濟(jì)學(xué)以及心理學(xué)。
1. 優(yōu)化人工智能的經(jīng)濟(jì)影響力
1．勞務(wù)市場(chǎng)預(yù)測(cè)：何時(shí)以及以什么樣的順序讓我們期望的各種工作自動(dòng)化？這將對(duì)低技術(shù)工人的工資、創(chuàng)意、信息工作者的類型帶來(lái)哪些影響？雖然有人對(duì)人工智能可能會(huì)大大增加人類作為一個(gè)整體的財(cái)富有些爭(zhēng)論，但是無(wú)論如何，增強(qiáng)的自動(dòng)化還是會(huì)推動(dòng)收入指數(shù)增加。
2．對(duì)其他市場(chǎng)的破壞：重要經(jīng)濟(jì)領(lǐng)域，包括財(cái)政、保險(xiǎn)、精算，還有許多消費(fèi)市場(chǎng)，可能由于使用人工智能技術(shù)來(lái)學(xué)習(xí)、建模和預(yù)測(cè)代理行為而容易受到破壞。這些市場(chǎng)可能是那些復(fù)雜性高回報(bào)也高，操縱起來(lái)也較為復(fù)雜的領(lǐng)域。
3．管理副作用的政策：哪些政策可以幫助越來(lái)越自動(dòng)化的社會(huì)趨向繁榮？例如，Brynjolfsson和McAfee探索各種政策保持勞動(dòng)密集型行業(yè)的發(fā)展以及利用人工智能創(chuàng)造的財(cái)富來(lái)支持半失業(yè)人群。諸如教育改革等的干預(yù)措施有哪些優(yōu)點(diǎn)和缺點(diǎn)。
4．經(jīng)濟(jì)措施：經(jīng)濟(jì)措施諸如實(shí)際人均國(guó)內(nèi)生產(chǎn)總值很有可能不能精確獲得重度人工智能以及基于自動(dòng)化基礎(chǔ)上的經(jīng)濟(jì)收益和損失。從而使這些指標(biāo)不適合政策制定的目的。針對(duì)改進(jìn)指標(biāo)的研究對(duì)于決策者來(lái)說(shuō)是非常有用。
2. 法律和倫理學(xué)的研究
人工智能系統(tǒng)的發(fā)展，使得大量涉及智能和自治權(quán)導(dǎo)致的法律和倫理問(wèn)題具體化。對(duì)這些問(wèn)題的解答深刻影響著人工智能技術(shù)的生產(chǎn)者和消費(fèi)者。這些問(wèn)題跨越法律、職業(yè)道德和哲學(xué)倫理，需要計(jì)算機(jī)學(xué)家、法律專家、政策專家、倫理學(xué)家的專業(yè)意見(jiàn)。例如：
1．自動(dòng)駕駛汽車(chē)的法律和責(zé)任：如果自動(dòng)駕駛汽車(chē)能夠削減美國(guó)年度汽車(chē)死亡人數(shù)40000的一半，那么汽車(chē)制造商得到的不是20000張感謝信，而是20000張?jiān)V訟狀。什么法律框架可以實(shí)現(xiàn)自動(dòng)駕駛汽車(chē)的安全利益？人工智能帶來(lái)的法律問(wèn)題是由原來(lái)的法律解決還是分開(kāi)單獨(dú)處理？在軍事和商業(yè)應(yīng)用，各國(guó)政府將需要決定如何帶來(lái)最好地相關(guān)專業(yè)知識(shí)。例如，可以創(chuàng)立一個(gè)由專業(yè)人士和學(xué)者組成的委員會(huì)或小組，Calo已經(jīng)提議建立一個(gè)聯(lián)邦機(jī)器人技術(shù)委員會(huì)。
2．機(jī)器倫理：如何權(quán)衡無(wú)人駕駛汽車(chē)的小概率人類損害事件和近乎必然的巨大材料成本？律師、倫理學(xué)家和決策者如何向公眾解釋這些問(wèn)題？這種取舍應(yīng)該符合國(guó)家的標(biāo)準(zhǔn)？