這個(gè)威脅被認(rèn)為是非常嚴(yán)重的，世界上最著名的機(jī)器學(xué)習(xí)研究者們在本月初召開了為期一天的關(guān)于機(jī)器欺騙威脅的研討會。研究人員討論了諸如如何生成看起來與人類正常手寫數(shù)字一樣的復(fù)雜技巧，但似乎又與軟件不同。以2為例，機(jī)器視覺系統(tǒng)可能將其看作是3。研究人員還討論了防御這種攻擊的可能性，并擔(dān)心AI可能被用來愚弄人類。
組織這次研討會的蒂姆·黃(Tim Hwang)預(yù)測，隨著機(jī)器學(xué)習(xí)變得更容易部署和日益強(qiáng)大，使用這種技術(shù)來操縱人們是不可避免的。蒂姆指出：“你不再需要一屋子的博士來研究機(jī)器學(xué)習(xí)技術(shù)。”他還稱，在2016年美國總統(tǒng)選舉期間，俄羅斯的“反信息”運(yùn)動就是一場AI增強(qiáng)信息戰(zhàn)的潛在先行者。蒂姆預(yù)測，最有效的方法就是使用機(jī)器學(xué)習(xí)來生成假視頻和音頻。
4.玩轉(zhuǎn)棋牌游戲
在2017年，Alphabet旗下的圍棋軟件AlphaGo得到迅速發(fā)展。今年5月份，更強(qiáng)大的軟件版本擊敗了中國冠軍。它的創(chuàng)造者、研究單位DeepMind后來又開發(fā)出一個(gè)版本AlphaGo Zero，在不學(xué)習(xí)人類棋路的情況下學(xué)會了這個(gè)游戲。今年12月份，另一項(xiàng)升級努力誕生了AlphaZero，它可以學(xué)習(xí)國際象棋和日本棋牌游戲Shogi(雖然不是同時(shí)學(xué)習(xí))。
這些引人注目的結(jié)果令人印象深刻，但也提醒了我們AI軟件的局限性。國際象棋、shogi以及圍棋都是復(fù)雜的，但它們都有相對簡單的規(guī)則，并對雙方都可見。對于計(jì)算機(jī)來說，這種挑戰(zhàn)恰好與其快速進(jìn)化的能力相匹配。但是，生活中的大多數(shù)情況和問題都不是這么井然有序。
這就是DeepMind和Facebook在2017年開始研發(fā)多人游戲《星際爭霸》（StarCraft）的原因，目前兩家公司都沒有取得太大成就?，F(xiàn)在，業(yè)余愛好者制造的最好的聊天機(jī)器人，依然無法匹敵那些技術(shù)精湛的玩家。DeepMind研究人員Oriol Vinyals在今年早些時(shí)候告訴《連線》雜志，他的軟件目前缺乏精心組裝和指揮軍隊(duì)所需的計(jì)劃和記憶能力，同時(shí)也無法對對手的移動進(jìn)行預(yù)測和反應(yīng)。無獨(dú)有偶，這些技能也能讓軟件更好地幫助處理現(xiàn)實(shí)世界的任務(wù)，比如辦公室工作或?qū)嶋H的軍事行動。在2018年，《星際爭霸》或類似游戲取得重大進(jìn)展可能預(yù)示著更強(qiáng)大AI的新應(yīng)用。
5.教AI辨別是非
即使沒有在上述領(lǐng)域取得新的進(jìn)展，如果現(xiàn)有的AI技術(shù)被廣泛采用，經(jīng)濟(jì)和社會的許多方面也會發(fā)生巨大的變化。隨著公司和政府急于部署AI，許多人擔(dān)心AI和機(jī)器學(xué)習(xí)會造成意外和故意傷害。如何在安全和符合道德規(guī)范的范圍內(nèi)對技術(shù)保持控制，是本月NIPS機(jī)器學(xué)習(xí)會議上一個(gè)重要的討論話題。
研究人員發(fā)現(xiàn)，當(dāng)機(jī)器學(xué)習(xí)系統(tǒng)接收遠(yuǎn)離“完美世界”的數(shù)據(jù)訓(xùn)練時(shí)，它們可以接受令人討厭的或不受歡迎的行為，比如永遠(yuǎn)維持性別刻板的印象?，F(xiàn)在，有些人正在研究可以用來審計(jì)AI系統(tǒng)內(nèi)部工作的技術(shù)，并確保它們在從事金融或醫(yī)療等行業(yè)工作時(shí)做出公平的決策。
明年，科技公司將會提出如何讓AI保持人性正確一面的想法。
谷歌、Facebook、微軟以及其他公司已經(jīng)開始討論這個(gè)問題，并且成立了新的非營利組織Partnership on AI，它將研究并試圖塑造AI的社會影響。此外，名為“人工智能倫理與治理基金會”的慈善項(xiàng)目正在支持麻省理工學(xué)院(MIT)、哈佛大學(xué)以及其他研究AI和公共利益的機(jī)構(gòu)。現(xiàn)在，紐約大學(xué)的一個(gè)新研究機(jī)構(gòu)AI Now也有一個(gè)類似的任務(wù)。在最近的一份報(bào)告中，它呼吁各國政府放棄使用“黑匣子”算法。