不少科幻電影中，一些人工智能機(jī)器拒絕服從人類指揮，甚至殺死或控制人類，最終統(tǒng)治世界。為避免這類情況出現(xiàn)，包括英國(guó)理論物理學(xué)家斯蒂芬·霍金在內(nèi)，數(shù)百名科學(xué)家和企業(yè)家聯(lián)合發(fā)表一封公開信，敦促人們重視人工智能安全，確保這類研究對(duì)人類有益。

近年來，人工智能技術(shù)高速發(fā)展，在給人們生活帶來便利的同時(shí)，可能存在危險(xiǎn)性。一些科學(xué)家認(rèn)為，人工智能可能比核武器更具威脅。

 

益處巨大

 

英、法等國(guó)媒體12日?qǐng)?bào)道，這封信由非營(yíng)利機(jī)構(gòu)“未來生活研究所”發(fā)布。除霍金外，在信上簽名的還有美國(guó)機(jī)器人和智能機(jī)械研究中心主任盧克·米爾豪澤、2004年諾貝爾物理學(xué)獎(jiǎng)獲得者弗蘭克·維爾切克和美國(guó)特斯拉汽車公司首席執(zhí)行官埃隆·馬斯克等人，以及一些來自美國(guó)哈佛大學(xué)、斯坦福大學(xué)等知名高校的頂尖學(xué)者和一些來自谷歌公司、微軟公司等高科技企業(yè)的工作人員。

這封公開信說，人工智能技術(shù)穩(wěn)定發(fā)展已獲“廣泛共識(shí)”，而且未來能夠給人類帶來巨大益處。信中說，人工智能已經(jīng)為人類生活提供便利，包括語音識(shí)別技術(shù)、圖像分析技術(shù)、無人駕駛汽車和翻譯工具。

公開信說：“由于人工智能的巨大潛力，有必要研究如何在從其獲益的同時(shí)避免潛在的危險(xiǎn)。”

 

或有危險(xiǎn)

 

信中寫道，人工智能技術(shù)發(fā)展良好，但給社會(huì)帶來的沖擊逐漸增加。如果沒有針對(duì)人工智能的安全防護(hù)措施，可能導(dǎo)致

人類的未來變得黯淡，甚至讓人類滅亡。

短期而言，人工智能可能導(dǎo)致數(shù)以百萬計(jì)人失業(yè)；長(zhǎng)期而言，可能出現(xiàn)一些科幻電影中的情況，人工智能的智力水平超過人類，開始“政變”。按人工智能的發(fā)展進(jìn)度，在不久的將來，機(jī)器可能以不斷加快的速度重新設(shè)計(jì)自己，超越受制于生物進(jìn)化速度的人類，最終擺脫人類的控制。這封公開信說：“我們的人工智能系統(tǒng)必須按照我們的要求工作。”

霍金曾提醒，需警惕人工智能科技過度發(fā)展，防止人工智能科技失控并超越人類智慧，最終破壞整個(gè)星球。他說，成功創(chuàng)造人工智能科技“將是人類歷史上最偉大的成就，但不幸的是，有可能也是最后一項(xiàng)（成就）”。

去年10月，太空探索技術(shù)公司和特斯拉汽車公司首席執(zhí)行官馬斯克在美國(guó)麻省理工學(xué)院參加一場(chǎng)活動(dòng)時(shí)說：“我認(rèn)為對(duì)待人工智能我們必須非常謹(jǐn)慎。按照我的猜想，人工智能可能是我們面臨的最大滅絕風(fēng)險(xiǎn)。”馬斯克說，創(chuàng)造人工智能猶如“召喚一只惡魔”，“在一些故事中，有人擁有五星陣法和圣水……他確信自己可以控制這只惡魔，不過事實(shí)并非如此”。

為確保人工智能不被誤用，美國(guó)谷歌公司不久前成立一個(gè)倫理委員會(huì)，監(jiān)督這家企業(yè)的人工智能技術(shù)研發(fā)。

登陸|注冊(cè)歡迎登陸本站，認(rèn)識(shí)更多朋友，獲得更多精彩內(nèi)容推薦！