人工智能成第二個(gè)“阿波羅登月計(jì)劃”？詳解全球首份國家AI發(fā)展戰(zhàn)略

2016年10月，美國總統(tǒng)奧巴馬在白宮前沿峰會(huì)上發(fā)布報(bào)告《國家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》（以下簡稱“計(jì)劃”）。這項(xiàng)被奧巴馬稱美國新 “阿波羅登月計(jì)劃”的規(guī)劃，旨在運(yùn)用聯(lián)邦基金的資助不斷深化對AI的認(rèn)識(shí)和研究，從而使得該技術(shù)為社會(huì)提供更加積極的影響，減少其消極影響。

2015年，美國政府在人工智能（AI）相關(guān)技術(shù)方面的研發(fā)投入約為11億美元。AI在制造、物流、金融、通信、交通運(yùn)輸、農(nóng)業(yè)、銷售、科技等領(lǐng)域得到了應(yīng)用。此外，AI在提高教育機(jī)會(huì)、更好的改善人類生活質(zhì)量、提高國土安全等方面具有積極的作用。

美國此次發(fā)布的“計(jì)劃”是全球首份國家層面的AI發(fā)展戰(zhàn)略計(jì)劃，對于全球各國尤其是我國未來AI發(fā)展戰(zhàn)略的制定具有重要的參考和借鑒意義。

“計(jì)劃”主要包括下列七大戰(zhàn)略：

• AI研究的長期投資戰(zhàn)略；（基礎(chǔ)研究戰(zhàn)略）
• 開發(fā)有效的人類與人工智能合作措施戰(zhàn)略；（人機(jī)交互戰(zhàn)略）
• AI的倫理、法律和社會(huì)學(xué)研究戰(zhàn)略；（社會(huì)學(xué)戰(zhàn)略）
• 確保AI系統(tǒng)的安全戰(zhàn)略；（安全戰(zhàn)略）
• 開發(fā)適用于AI培訓(xùn)和測試的公共共享數(shù)據(jù)集和環(huán)境戰(zhàn)略；（數(shù)據(jù)和環(huán)境戰(zhàn)略）
• 通過標(biāo)準(zhǔn)和基準(zhǔn)測量和評估AI技術(shù)戰(zhàn)略；（標(biāo)準(zhǔn)戰(zhàn)略）
• 更好的了解國家AI研發(fā)人力需求戰(zhàn)略。（人力戰(zhàn)略）

七大戰(zhàn)略的具體關(guān)系可以用下圖來展示（七大戰(zhàn)略分別用數(shù)字1-7標(biāo)明）：

 

一、 AI研究的長期投資戰(zhàn)略

AI的研究投入需要在有長期潛在回報(bào)的領(lǐng)域進(jìn)行，同時(shí)這些有長期回報(bào)的領(lǐng)域伴隨著高研發(fā)風(fēng)險(xiǎn)。以互聯(lián)網(wǎng)和深度學(xué)習(xí)為例，在這兩個(gè)案例中，對其基礎(chǔ)的研究開始于20世紀(jì)60年代，經(jīng)過30多年的研究努力，這些概念變成了在很多AI領(lǐng)域中運(yùn)用的技術(shù)。在下列領(lǐng)域中AI技術(shù)將進(jìn)行持續(xù)投入：

• 基于數(shù)據(jù)驅(qū)動(dòng)的以知識(shí)開發(fā)為目的方法論

在發(fā)展機(jī)器學(xué)習(xí)算法中，可以運(yùn)用大數(shù)據(jù)來識(shí)別所有有用信息。很多開放性問題都圍繞著數(shù)據(jù)的創(chuàng)立和使用，包括AI系統(tǒng)學(xué)習(xí)中的精確性和恰當(dāng)性。數(shù)據(jù)的精確性在處理大量數(shù)據(jù)時(shí)是很大的挑戰(zhàn)，我們需要繼續(xù)研究數(shù)據(jù)清洗技術(shù)（data cleaning techniques）以提高數(shù)據(jù)的利用效率，研發(fā)新的技術(shù)以發(fā)現(xiàn)數(shù)據(jù)中的矛盾和異常。此外，還需要研發(fā)新技術(shù)保證數(shù)據(jù)挖掘和與該數(shù)據(jù)相關(guān)聯(lián)的元數(shù)據(jù)的挖掘同時(shí)進(jìn)行。

• 增進(jìn)AI系統(tǒng)的感知能力

感知是智能系統(tǒng)通往世界的窗戶。感知開始于各種形式的傳感數(shù)據(jù)（sensor data），感知系統(tǒng)需要從眾多的傳感器和包括云計(jì)算在內(nèi)的其他來源中整合數(shù)據(jù)，從而來確定AI系統(tǒng)應(yīng)該做出的反應(yīng)及對未來的預(yù)測。在復(fù)雜多變的環(huán)境下，AI對目標(biāo)的探測、分類、識(shí)別仍然面臨挑戰(zhàn)，感知進(jìn)程的改進(jìn)可以不斷提高AI系統(tǒng)的認(rèn)知準(zhǔn)確性。

• 了解AI的理論能力和限制

AI算法的最終目標(biāo)是可以挑戰(zhàn)人類解決問題的能力，但是目前我們對于AI的理論能力和限制達(dá)到何種程度仍然沒有很好的理解。我們?nèi)狈I系統(tǒng)統(tǒng)一的理論模型或框架。我國需要同時(shí)研究現(xiàn)有的硬件，從而了解硬件是如何影響這些算法的。

• 開展廣義的AI研究

AI可以劃分為“狹義AI”和“廣義AI”。狹義的AI系統(tǒng)只專注于完成某個(gè)特別設(shè)定的任務(wù)，例如語音識(shí)別、圖像識(shí)別和翻譯，也包括近年來出現(xiàn)的IBM的Watson和谷歌的AlphaGo，這些系統(tǒng)被稱為“超級人類”，因?yàn)樗麄兊谋憩F(xiàn)可以打敗人類。與“狹義AI”相對的是“廣義AI”，這些AI體系包括了學(xué)習(xí)、語言、認(rèn)知、推理、創(chuàng)造和計(jì)劃。廣義的AI目標(biāo)是將一個(gè)領(lǐng)域內(nèi)的知識(shí)運(yùn)用到另外一個(gè)領(lǐng)域，同時(shí)可以與人類開展交互式學(xué)習(xí)。廣義AI的目標(biāo)還沒有達(dá)成，需要我們進(jìn)行長期的、持續(xù)性的努力和投入。

• 開發(fā)可拓展的AI系統(tǒng)

開發(fā)和使用多重AI系統(tǒng)對于計(jì)劃、協(xié)調(diào)、控制方面帶來很多研究性挑戰(zhàn)。我們之前的研究集中于中心計(jì)劃和協(xié)調(diào)技術(shù)，但是，這些方法存在不足。未來，多重的AI系統(tǒng)需要運(yùn)行的足夠快速從而適用不斷變化的環(huán)境。未來應(yīng)著力研發(fā)在計(jì)劃、控制與合作方面更加有效、更具活力及可拓展的多重AI系統(tǒng)技術(shù)。

• 促進(jìn)類人類AI的研究

類人類AI旨在讓AI系統(tǒng)能夠像人類一樣解釋自己從而使得人類明白。例如智能家教系統(tǒng)和智能助手可以幫助人們更好的完成任務(wù)。人類可以從有限的學(xué)習(xí)范例中學(xué)習(xí)知識(shí)，但是AI可以從數(shù)以千計(jì)的范例中不斷學(xué)習(xí)和優(yōu)化自己，從而達(dá)到超越人類的狀態(tài)。未來在這方面還要不斷研究新方法從而達(dá)到這一目標(biāo)。

• 研發(fā)能力更強(qiáng)更可靠的機(jī)器人

機(jī)器人在人類的生活中應(yīng)用廣泛。目前，我們正研究如何更好的開展機(jī)器人與人類的合作。機(jī)器人技術(shù)可以更好模仿并提高人類的體能和智能。未來科學(xué)家還需要繼續(xù)研究如何使機(jī)器人系統(tǒng)更可信和方便使用。同時(shí)，提高機(jī)器人的認(rèn)知和推理能力，使其可以更好地進(jìn)行自我評價(jià)，提高其處理復(fù)雜問題的能力，更好地與人類開展互信合作。

• 改善硬件提高AI性能

AI研究經(jīng)常與軟件研發(fā)相關(guān)，但是AI系統(tǒng)的性能很大程度上取決于其硬件的運(yùn)行。提升AI系統(tǒng)硬件運(yùn)行功能需要通過可控的方式關(guān)閉和打開數(shù)據(jù)通道。未來的研究需要使得機(jī)器學(xué)習(xí)算法可以有效的從大量的數(shù)據(jù)中進(jìn)行有效的學(xué)習(xí)。基于機(jī)器學(xué)習(xí)反饋的方法可以使AI技術(shù)更好地進(jìn)行數(shù)據(jù)取樣和分析，運(yùn)用在例如智能建筑和物聯(lián)網(wǎng)等領(lǐng)域。

• 研發(fā)適用于先進(jìn)硬件的AI

更先進(jìn)的硬件可以提高AI系統(tǒng)的運(yùn)行能力，同時(shí)更好的AI系統(tǒng)可以反過來提高硬件的性能。更好的AI算法可以通過提升多核系統(tǒng)的性能，這對于高性能計(jì)算（High Performance Computing,HPC）運(yùn)行的提升尤為重要。

二、 開發(fā)有效的人類與人工智能合作措施戰(zhàn)略

• 尋找具有人類感知的AI新算法

近年，AI算法已經(jīng)可以解決越來越復(fù)雜的問題。人類可以感知的智能體系需要與用戶進(jìn)行互動(dòng)從而開展人機(jī)互動(dòng)。我們需要開發(fā)中斷模式從而在合適的時(shí)候打斷人類。AI體系需要具有提升人類認(rèn)知的能力，在用戶不能準(zhǔn)確描述自身需求時(shí)，可以了解用戶需求。未來的AI可以擁有情感智能，可以了解用戶的情緒并作出恰當(dāng)?shù)姆答?。另一個(gè)目標(biāo)是建立“系統(tǒng)-系統(tǒng)”的互動(dòng)即多個(gè)機(jī)器可以與多人同時(shí)進(jìn)行互動(dòng)。

• 開發(fā)增強(qiáng)人類能力的AI技術(shù)

人類增強(qiáng)研究包括算法在不同情形下的運(yùn)用，例如在固定設(shè)備中、可穿戴設(shè)備中、植入設(shè)備中以及具體的用戶環(huán)境中。以醫(yī)學(xué)助手為例，人類增強(qiáng)意識(shí)可以幫助識(shí)別在手術(shù)中出現(xiàn)的微小錯(cuò)誤或?qū)⒅暗膶?shí)驗(yàn)經(jīng)驗(yàn)運(yùn)用于用戶的現(xiàn)有情況。另一個(gè)領(lǐng)域是在自主學(xué)習(xí)方面。目前的自主學(xué)習(xí)還僅僅是在人類的監(jiān)督下進(jìn)行的，未來的研究將會(huì)集中于在無人監(jiān)督下的自主學(xué)習(xí)。

• 開發(fā)可視化和人類與AI交互界面技術(shù)

可視化和用戶界面必須以一種越來越清晰的并且可以被人類理解的方式呈現(xiàn)，這需要提供實(shí)時(shí)運(yùn)行的結(jié)果和反饋。人類與AI的合作可以被廣泛地運(yùn)用于各個(gè)領(lǐng)域，例如人類和AI系統(tǒng)在太空中的遠(yuǎn)程交流，在交流過程中需要評估自主運(yùn)行狀態(tài)，其中的運(yùn)行要求和限制是用戶界面研發(fā)者需要研究的問題。

• 開發(fā)更加有效的語言處理系統(tǒng)

讓人類與AI系統(tǒng)通過書面和口頭的語言形式進(jìn)行交流是AI研究者的一個(gè)長期研究目標(biāo)。目前我們已經(jīng)可以實(shí)現(xiàn)在安靜的環(huán)境中AI對于流利英語的識(shí)別，但這只是第一步。AI目前還無法對在嘈雜的環(huán)境中的、有濃重口音的以及小孩的語言進(jìn)行識(shí)別。未來我們需要將該系統(tǒng)應(yīng)用在不同語言中，從而達(dá)到可以實(shí)現(xiàn)AI在實(shí)時(shí)狀態(tài)下與人類的對話。

三、 AI的倫理、法律和社會(huì)學(xué)研究戰(zhàn)略

該領(lǐng)域的主要研究目的在于了解AI技術(shù)的倫理、法律和社會(huì)意義。同時(shí)，研發(fā)新的方法來實(shí)現(xiàn)AI與人類預(yù)先設(shè)定的倫理、法律和社會(huì)準(zhǔn)則相一致。隱私是需要考慮的重要因素，關(guān)于隱私方面的問題可以參見“國家隱私研究戰(zhàn)略”（National Privacy Research Strategy）。

• 通過設(shè)計(jì)提高公平性、透明度和可責(zé)性

在AI系統(tǒng)設(shè)計(jì)時(shí)需要考慮本身的公平、合理、透明和可信賴性。研究者必須了解如何設(shè)計(jì)AI系統(tǒng)從而使得保證其決策的透明和容易被人類理解。

• 構(gòu)建AI倫理

倫理問題本身是哲學(xué)問題。研究者需要研究出新的算法確保AI做出的決策與現(xiàn)有的法律、社會(huì)倫理一致，這是一項(xiàng)具有挑戰(zhàn)性的任務(wù)。倫理難題需要首先解決的是如何將倫理難題準(zhǔn)確的翻譯為AI可以識(shí)別的語言。同時(shí)，當(dāng)面臨新的道德困境時(shí)，AI如何進(jìn)行決策。倫理問題因各國文化、宗教和信仰等的不同而存在差別。我們需要構(gòu)建一個(gè)可以被廣泛接受的倫理框架來指導(dǎo)AI系統(tǒng)進(jìn)行推理和決策。

• 設(shè)計(jì)AI倫理的架構(gòu)

另外一項(xiàng)基礎(chǔ)性的研究集中在如何在AI系統(tǒng)設(shè)計(jì)中包含倫理推理。在這方面我們嘗試了多種方法。未來，AI倫理框架的構(gòu)建，可能包括下屬的多體系、多層次的判斷，例如匹配規(guī)則的迅速回應(yīng)、接收用戶信任的社會(huì)信號、遵守文化準(zhǔn)則等。研究者需要集中于如何描述和設(shè)計(jì)AI系統(tǒng)使其符合道德的、法律的和社會(huì)的目標(biāo)。

四、 確保AI系統(tǒng)的安全戰(zhàn)略

AI系統(tǒng)在全球性范圍內(nèi)投入使用之前，需要以可控的方式確保該系統(tǒng)的安全性。由于AI應(yīng)用環(huán)境的復(fù)雜性和不確定性、突發(fā)行為的影響、執(zhí)行目標(biāo)的不明確性、人機(jī)交互等因素的影響，AI系統(tǒng)可能面臨著重大的安全挑戰(zhàn)。

• 提高可解釋性和透明度

基于深度學(xué)習(xí)的許多算法對于使用者來說是不透明的。在很多領(lǐng)域例如健康護(hù)理，醫(yī)生需要對于在治療過程中的特殊治療方法進(jìn)行合理性解釋。AI技術(shù)為很多決策提供了合理性解釋但是不夠準(zhǔn)確。研究者需要研發(fā)更加透明的決策體系，從而為用戶提供決策推理的合理解釋。

• 建立互信

為了獲取信任，AI系統(tǒng)的設(shè)計(jì)者需要建立用戶友好型的交互式界面，同時(shí)確保AI系統(tǒng)的準(zhǔn)確性和可信賴性。目前對于AI系統(tǒng)的一個(gè)重要挑戰(zhàn)是軟件制造技術(shù)品質(zhì)的不一致性。隨著人類與AI系統(tǒng)的聯(lián)系越來越緊密，在該領(lǐng)域的互信挑戰(zhàn)也面臨越來大的挑戰(zhàn)。

• 增強(qiáng)核實(shí)（verification）和驗(yàn)證(validation)

在AI體系的核實(shí)和驗(yàn)證方面需要建立新的方法。“核實(shí)”是確立一個(gè)滿足形式要求的系統(tǒng)，“驗(yàn)證”是確立一個(gè)滿足用戶操作需求的系統(tǒng)。對于已經(jīng)自動(dòng)運(yùn)行了一段時(shí)間的系統(tǒng)，系統(tǒng)設(shè)計(jì)者或許沒有考慮到在各種環(huán)境中可能遇到的情況，因此需要系統(tǒng)擁有自我檢測、自我診斷和自我修復(fù)的功能以確保其可信賴性。

• 對抗攻擊的安全戰(zhàn)略

AI體系為了應(yīng)對各種事故，需要具備預(yù)防惡意網(wǎng)絡(luò)攻擊的措施。安全工程需要了解該體系的脆弱性以及有可能進(jìn)行攻擊的人。AI在網(wǎng)絡(luò)安全體系中的運(yùn)用需要高度的自治能力，這需要未來進(jìn)一步的研究。

• 實(shí)現(xiàn)長期的AI安全和價(jià)值一致

AI系統(tǒng)最終的目的是實(shí)現(xiàn)“循環(huán)的自我提高”。軟件的改進(jìn)是通過軟件自身修復(fù)完成的而非由人類完成的。為了達(dá)成這一目標(biāo)，我們需要進(jìn)一步研究可以用來檢測人類設(shè)計(jì)的目標(biāo)與AI系統(tǒng)行為是否一致的自我監(jiān)測技術(shù)及使用者的目標(biāo)等。

五、 開發(fā)適于AI培訓(xùn)和測試的公共共享的數(shù)據(jù)集和環(huán)境戰(zhàn)略

• 為不同種類的AI興趣及應(yīng)用開發(fā)和制作種類廣泛的數(shù)據(jù)集

完整和可利用的AI培訓(xùn)和測試數(shù)據(jù)集對于確保結(jié)果的可信賴性來說至關(guān)重要。機(jī)器學(xué)習(xí)領(lǐng)域的AI挑戰(zhàn)經(jīng)常與大數(shù)據(jù)分析相關(guān)。在現(xiàn)實(shí)世界中，數(shù)據(jù)集經(jīng)常因其不一致性、不完整性而受到質(zhì)疑。在建立AI應(yīng)用的數(shù)據(jù)集之前需要一系列的數(shù)據(jù)預(yù)先處理技術(shù)，例如數(shù)據(jù)清洗、整合、轉(zhuǎn)化、還原和展示。

• 使訓(xùn)練和測試資源能夠?qū)ι虡I(yè)和公共利益做出回應(yīng)

隨著數(shù)據(jù)的不斷增多，數(shù)據(jù)資源和信息技術(shù)都在不斷增加。數(shù)據(jù)分析技術(shù)不能跟上原始信息資源的產(chǎn)生數(shù)量。雖然我們現(xiàn)在擁有數(shù)據(jù)存儲(chǔ)器，但是仍然難以滿足成比例增長的數(shù)據(jù)，我們需要建立動(dòng)態(tài)的和靈敏的數(shù)據(jù)存儲(chǔ)器。

• 開發(fā)開源軟件庫和工具集

不斷增加的開源軟件庫和工具集為開發(fā)者提供了便捷的入口。例如Weka工具集、MALLET,和OpenNLP,它們都加速了AI技術(shù)的發(fā)展和應(yīng)用。為了支持該領(lǐng)域的持續(xù)性創(chuàng)新，美國政府促進(jìn)在研發(fā)、支持和使用開放AI技術(shù)方面的努力，尤其是使用開放格式或開放標(biāo)準(zhǔn)的開放資源。美國政府同樣鼓勵(lì)在政府內(nèi)部更廣泛的采用開放AI資源以降低創(chuàng)新者的準(zhǔn)入門檻。政府應(yīng)致力于將算法和軟件納入開放資源項(xiàng)目。同時(shí)，由于政府在某些領(lǐng)域有特別的關(guān)注，例如數(shù)據(jù)的隱私與安全。

六、 通過標(biāo)準(zhǔn)和基準(zhǔn)測量和評估AI技術(shù)戰(zhàn)略

標(biāo)準(zhǔn)、基準(zhǔn)、測試平臺(tái)是指導(dǎo)AI研發(fā)戰(zhàn)略中的核心要素。具體來說應(yīng)在以下幾個(gè)方面做出努力：

• 開發(fā)范圍廣泛的AI標(biāo)準(zhǔn)

AI技術(shù)必須滿足客觀的標(biāo)準(zhǔn)從而保持其安全性和可信賴性。目前一項(xiàng)與AI相關(guān)的標(biāo)準(zhǔn)是P187202015(機(jī)器人與自動(dòng)機(jī)器標(biāo)準(zhǔn))。該標(biāo)準(zhǔn)提供了在現(xiàn)有的知識(shí)體系下系統(tǒng)性的標(biāo)準(zhǔn)條款和內(nèi)容，為AI技術(shù)在機(jī)器人領(lǐng)域的應(yīng)用提供了基礎(chǔ)。此外，AI標(biāo)準(zhǔn)需要滿足安全性、可用性、可追溯性、隱私保護(hù)等要求。

• 創(chuàng)建AI技術(shù)基準(zhǔn)（benchmarks）

技術(shù)基準(zhǔn)包括測試和評價(jià)，為標(biāo)準(zhǔn)的制定提供定量測量，同時(shí)評估標(biāo)準(zhǔn)的遵守情況。為了更有效的評估AI技術(shù)，相關(guān)的測試方法必須標(biāo)準(zhǔn)化。標(biāo)準(zhǔn)的測試方法應(yīng)該描述AI技術(shù)評估、比較、管理的方法和程序，包括但不限于：準(zhǔn)確性、復(fù)雜性、信任和能力、風(fēng)險(xiǎn)和不確定性、可解釋性、與人類行為的比較以及經(jīng)濟(jì)影響等。

• 增加AI測試平臺(tái)（testbeds）的可用性

測試平臺(tái)對于研究者至關(guān)重要，因?yàn)檠芯空呖梢岳脤?shí)際的研究數(shù)據(jù)在真實(shí)的世界中進(jìn)行建模和實(shí)驗(yàn)。在AI的所有領(lǐng)域中都需要有足夠多的測試平臺(tái)。例如政府有大量的敏感數(shù)據(jù)，這些數(shù)據(jù)不能對研究機(jī)構(gòu)之外的機(jī)構(gòu)公開。我們可以為科研人員在安全的測試平臺(tái)中創(chuàng)設(shè)合適的項(xiàng)目進(jìn)行相關(guān)的測試。這些AI的實(shí)驗(yàn)數(shù)據(jù)和實(shí)驗(yàn)方法僅對AI科學(xué)家、工程師和學(xué)生在測試場景下公開。

• 組建AI標(biāo)準(zhǔn)和基準(zhǔn)共同體（community）

AI共同體由使用者、產(chǎn)業(yè)人員、學(xué)術(shù)人員和政府人員組成，這些人員需要參與AI標(biāo)準(zhǔn)和基準(zhǔn)制定的項(xiàng)目。基于共同體發(fā)起的基準(zhǔn)可以通過提供測試數(shù)據(jù)來降低準(zhǔn)入門檻、強(qiáng)化激勵(lì)，促進(jìn)技術(shù)開發(fā)商之間的良性競爭。

七、 更好的了解國家AI研發(fā)人力需求戰(zhàn)略

在研發(fā)領(lǐng)域擁有強(qiáng)大實(shí)力的國家在未來的發(fā)展中也必將占據(jù)領(lǐng)先地位，而技術(shù)專家在其中發(fā)揮著重要作用。雖然現(xiàn)在還沒有AI研發(fā)人員的數(shù)據(jù)，但是根據(jù)商業(yè)和學(xué)術(shù)機(jī)構(gòu)的報(bào)告顯示AI領(lǐng)域的專業(yè)人才存在不斷增長性的缺口。高科技公司不斷增加雇傭AI方面人才的投入。大學(xué)和研究機(jī)構(gòu)也在不斷招募AI方面的專業(yè)人才。未來我們需要更好的了解國家AI研發(fā)人才的需求數(shù)據(jù)，包括科研機(jī)構(gòu)、政府和產(chǎn)業(yè)方面的需求。我們需要對AI人才的供應(yīng)和需求量做出測算，從而可以幫助預(yù)測未來的人力需求，并制定合理的計(jì)劃。

孫 那

騰訊研究院研究員、騰訊公司與中國社科院聯(lián)合培養(yǎng)博士后