近日，由生命未來研究所（FLI）發(fā)表的一封關(guān)于促進(jìn)人工智能健康發(fā)展的公開信引起了筆者的注意，信中呼吁人們要警惕人工智能副作用。隨著人工智能的發(fā)展，他們擔(dān)心人類所創(chuàng)造出的人工智能機(jī)器會(huì)有超越人類并影響人類生存的可能，因此，開展如何規(guī)避其潛在危害的同時(shí)獲取其好處的研究十分重要。
生命未來研究所是什么機(jī)構(gòu)
生命未來研究所是Future of Life Institute的英文縮寫，簡(jiǎn)稱FLI，它是2014年由 Skype聯(lián)合創(chuàng)始人Jaan Tallinn、麻省理工學(xué)院教授Max Tegmark等在內(nèi)的志愿者創(chuàng)立。
值得注意的是該機(jī)構(gòu)的科學(xué)顧問委員堪稱豪華，包括宇宙學(xué)家史蒂芬?霍金、SpaceX 和 Tesla Motors 創(chuàng)始人Elon Musk、牛津大學(xué)Future of Humanity Institute主任Nick Bostrom、 MIT Center for Digital Business主任Erik Brynjolfsson、哈佛大學(xué)遺傳學(xué)教授George Church、MIT物理學(xué)教授Alan Guth以及劍橋大學(xué)、UC Berkeley 等大學(xué)的人工智能方面的著名教授都參與其中。 同時(shí)，目前該機(jī)構(gòu)也吸引了眾多人工智能領(lǐng)域的志愿者。
他們宣稱，成立該研究所的目的一方面是為了促進(jìn)對(duì)“未來樂觀圖景”的研究，一方面則是為了“降低人類面臨的現(xiàn)存風(fēng)險(xiǎn)”。其中，在開發(fā)與人類相當(dāng)?shù)娜斯ぶ悄芗夹g(shù)過程中出現(xiàn)的那些風(fēng)險(xiǎn)，將是該所關(guān)注的重點(diǎn)。
了解了生命未來研究所的來龍去脈，我們回到這封公開信本身，在題為《Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter》的信上，他們認(rèn)為人類對(duì)人工智能領(lǐng)域的成功追求可能會(huì)給人類帶來前所未有的利益，因此有必要在關(guān)于如何讓這些利益最大化方面的研究投入精力，同時(shí)避免潛在的危害，讓人工智能在人類的可控范圍之內(nèi)。
目前參與簽署這封公開信的有：史蒂芬·霍金、Elon Musk、 Deep Mind 聯(lián)合創(chuàng)始人、 IBM Watson團(tuán)隊(duì)及微軟研究所團(tuán)隊(duì)的專家。有趣的是，Elon Musk 曾在一次公開訪談?wù)f道：
就像所有的神話中畫著法陣捧著圣水的邪惡巫師一樣，每個(gè)巫師都聲稱自己可以控制惡魔，但最終沒有一個(gè)成功的。
鑒于人工智能正吸引越來越多的投資，許多企業(yè)都希望能通過建立會(huì)自主思考的電腦，獲得巨額回報(bào)。對(duì)于這種局面，F(xiàn)LI警告說，人們或許應(yīng)“及時(shí)”將更多注意力集中在人工智能的社會(huì)后果上，不僅要從計(jì)算機(jī)科學(xué)的角度開展研究，還要從經(jīng)濟(jì)、法律及信息安全的角度開展研究。
目前，眾多互聯(lián)網(wǎng)巨頭都在人工智能領(lǐng)域投入巨大的資金，包括Google、IBM、Facebook、Microsoft、百度等。并且在某些方法，人工智能的研究已經(jīng)初見成果，包括語音識(shí)別、圖像識(shí)別以及自動(dòng)駕駛的汽車等。據(jù)估計(jì)，在硅谷如今從事人工智能業(yè)務(wù)的初創(chuàng)企業(yè)超過了150家。有權(quán)威專家指出2015年將是人工智能爆發(fā)的一年。
這封公開信還附上了一份 研究報(bào)告 ，整個(gè)報(bào)告分為四大部分：人工智能現(xiàn)狀、短期研究?jī)?yōu)先項(xiàng)、長(zhǎng)期研究?jī)?yōu)先項(xiàng)、結(jié)論。
人工智能現(xiàn)狀
人工智能（AI）研究自誕生以來就探索各種各樣的問題和方法，但在過去20年，一直專注于在一些環(huán)境感知和行動(dòng)的智能代理系統(tǒng)的構(gòu)建。在這種背景下，“智能”就和相關(guān)統(tǒng)計(jì)和經(jīng)濟(jì)合理性的概念有千絲萬縷的聯(lián)系，通俗來說，就是能夠做出好的決策、計(jì)劃或推論。采用概率和決策理論觀點(diǎn)以及統(tǒng)計(jì)學(xué)習(xí)方法在很大程度上導(dǎo)致在人工智能、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)、控制理論、神經(jīng)科學(xué)和其他領(lǐng)域的集成和互補(bǔ)。結(jié)合數(shù)據(jù)的可用性和處理能力，建立共享的理論框架，已經(jīng)在語音識(shí)別、圖像分類、自動(dòng)駕駛車輛、機(jī)器翻譯、步態(tài)運(yùn)動(dòng)，自動(dòng)問答系統(tǒng)取得了非凡的成功。