5月12日消息：據(jù)國(guó)外媒體報(bào)道，經(jīng)過幾十年發(fā)展，人工智能已經(jīng)從科幻小說(shuō)里的一個(gè)概念，變成了當(dāng)今科技發(fā)展的主流。蘋果的語(yǔ)音控制系統(tǒng)Siri、亞馬遜的智能助手Alexa、IBM的沃森超級(jí)電腦、谷歌大腦...能夠理解這個(gè)世界并且給出高效反饋的智能機(jī)器似乎就在眼前。

強(qiáng)大的互聯(lián)網(wǎng)接入和學(xué)習(xí)運(yùn)算法則讓機(jī)器在理解人類語(yǔ)音、視頻信息的方面取得了飛躍性的進(jìn)步，也逐漸向狹義上真正的人工智能邁進(jìn)。AI(Artificial Intelligence),可實(shí)現(xiàn)自動(dòng)響應(yīng)的人工智能產(chǎn)品距離我們還遠(yuǎn)嗎？如何讓他們保持不斷自我更新升級(jí)但是依然在人類可控范圍內(nèi)？

這個(gè)問題給人們帶來(lái)普遍的擔(dān)心和焦慮。“我認(rèn)為人工智能的發(fā)展最終會(huì)導(dǎo)致人類族群的滅絕，”物理學(xué)家斯蒂芬·霍金接受BBC的采訪給出了這樣的觀點(diǎn)。特斯拉的創(chuàng)始人埃隆·馬斯克把AI成為“人類最大的潛在威脅”。微軟前總裁比爾·蓋茨也表示過類似的擔(dān)憂。

有多少擔(dān)憂是必要的？問題有多緊迫？我們聚集了多位工業(yè)、科研研究、政策決策領(lǐng)域的專家，一起評(píng)估人工智能的發(fā)展風(fēng)險(xiǎn)。參加此次話題討論的包括Skype創(chuàng)始人之一、人類未來(lái)發(fā)展?jié)撛陲L(fēng)險(xiǎn)研究院的智庫(kù)成員——Jaan Tallinn，IBM的沃森超級(jí)電腦研究院負(fù)責(zé)電腦認(rèn)知研究的專家——Guruduth S. Banavar，帕多瓦大學(xué)計(jì)算機(jī)系教授、哈佛大學(xué)拉德克利夫高級(jí)研究所研究院和狙擊最多AI研究者的國(guó)際人工智能研究協(xié)會(huì)主席——Francesca Ross。

以下是經(jīng)過編輯整理的專家談話內(nèi)容。

危險(xiǎn)究竟是什么？

記者：人工智能會(huì)對(duì)人類造成哪些威脅？

Banavar：受科幻小說(shuō)、電影的影響，人工智能帶來(lái)的威脅主要是人類與機(jī)器之間的矛盾沖突，這個(gè)觀點(diǎn)其實(shí)是錯(cuò)誤的。人工智能在某些領(lǐng)域能夠比人類更出色地解決問題，比如大數(shù)據(jù)篩選。然而，某些人類擅長(zhǎng)的領(lǐng)域離，機(jī)器的表現(xiàn)非常糟糕。比如常識(shí)推理、提出精彩的問題以及“跳出來(lái)”想問題。人類和機(jī)器的結(jié)合體，即我們研究的計(jì)算機(jī)認(rèn)知能力的基礎(chǔ)，是對(duì)解決各個(gè)領(lǐng)域的復(fù)雜問題的革命性的設(shè)想。

人工智能為基礎(chǔ)的系統(tǒng)已經(jīng)在很多方面為我們的生活提供了便利：股票自動(dòng)交易系統(tǒng)、自動(dòng)飛行控制系統(tǒng)、工業(yè)流水作業(yè)機(jī)器、錯(cuò)誤檢測(cè)和搜索引擎...在過去的5-10年間，機(jī)器學(xué)習(xí)運(yùn)算法則和先進(jìn)的計(jì)算機(jī)架構(gòu)讓我們實(shí)現(xiàn)了很多新應(yīng)用。

然而，需要認(rèn)識(shí)到，計(jì)算機(jī)運(yùn)算法則已經(jīng)被運(yùn)用到極致。要實(shí)現(xiàn)更大的進(jìn)步，則需要引入更多復(fù)雜的符號(hào)系統(tǒng)——這是個(gè)很高的要求。今天我們的神經(jīng)科學(xué)和認(rèn)知科學(xué)研究，對(duì)于人類智能的研究還只是抓到皮毛。

我個(gè)人的觀點(diǎn)是，能夠達(dá)到人類水平進(jìn)行一般感知、推測(cè)的人工智能機(jī)器還只是個(gè)娛樂話題。

TALLINN：今天的人工智能不可能對(duì)人類構(gòu)成威脅。如果我們要討論人工智能的長(zhǎng)遠(yuǎn)影響，（也就是人工智能能夠比人類更好地完成策略、科學(xué)、人工智能研究的時(shí)候。）我們就要涉及到控制超級(jí)智能的問題。

記者：什么是超級(jí)智能控制問題？

TALLINN：現(xiàn)在最先進(jìn)的機(jī)器人也存在一個(gè)能夠讓人類實(shí)現(xiàn)完全控制的“關(guān)機(jī)鍵”。然而，“關(guān)機(jī)鍵”發(fā)揮作用的前提是它在機(jī)器人的工作領(lǐng)域之外。舉個(gè)例子，一個(gè)會(huì)下棋的電腦工作領(lǐng)域僅限于與人對(duì)弈，它并不會(huì)覺察到它的人類對(duì)手可以拔掉它的電源終止游戲。

然而，超級(jí)智能機(jī)器，經(jīng)過有意或者無(wú)意的程序設(shè)定，能夠全面的了解周圍世界并且對(duì)于有人可以動(dòng)他們的“關(guān)機(jī)鍵”的后果作出預(yù)測(cè)，人類就很難再控制它。