我想你們大概都知道 Facebook 一個 AI 項(xiàng)目失控被迫關(guān)閉的事了。據(jù)外媒報道，F(xiàn)acebook 于 6 月開始測試的 AI 系統(tǒng)出現(xiàn)了問題，兩個智能對話機(jī)器人在對話時開發(fā)出了「人類不理解的語言」，目前這個項(xiàng)目已經(jīng)被 Facebook 自己關(guān)閉了，其官方解釋說研究人員「希望 AI 與人溝通，而不是相互溝通?！?/p>
但是 Facebook 關(guān)閉該項(xiàng)目的新聞已經(jīng)曝出半個多月了，而其 AI 聊天機(jī)器人「創(chuàng)造一種人類無法理解的語言」這事更是六月的舊聞了。為什么這件事現(xiàn)在又火起來了呢？
原因可能是 Facebook 的創(chuàng)始人馬克·扎克伯格剛剛與埃隆·馬斯克就 AI 威脅論的問題隔空吵了個架，余熱尚在，F(xiàn)acebook 被迫關(guān)閉「失控」的 AI 項(xiàng)目絕對是一波「打臉」的好戲碼，于是我們就看到一波鼓吹 AI 威脅論的聲音此起彼伏。
有關(guān)該事件的外媒報道
但我們在看了許多外媒文章之后發(fā)現(xiàn)，他們并沒有對此事追根溯源，從一開始，他們就把 AI 之間語法不通的英語句子看做了一種全新的語言，而 Facebook 的兩個聊天機(jī)器人 Bob 和 Alice 使用的依然是英語單詞，只是語法上沒有任何意義而已。
Bob:「I can can I I everything else."
Alice:「Balls have zero to me to me to me to me to me to me to me to me to."
翻譯過來是：
Bob：「我能能我我所有其他事?！?/p>
Alice：「球沒有對我對我對我對我對我對我對我對我對?！?/p>
這怎么看都是英語沒學(xué)好啊。
Bob 和 Alice 的對話截圖；圖源：Fast Co.Design
對于這件事，人工智能公司 iPIN 的創(chuàng)始人楊洋表示，其實(shí)這種機(jī)器亂語的情況早就有了先例，Google 的聊天機(jī)器人就出現(xiàn)過這種狀況，「說是新的語言太勉強(qiáng)，反而是將文字符號化，高階語言降為低階語言，或者說機(jī)器語言。」
「自創(chuàng)語言」的來龍去脈
6 月的時候，F(xiàn)acebook 人工智能實(shí)驗(yàn)室發(fā)表了一篇文章，介紹了他們?nèi)绾谓?AI 與人類進(jìn)行談判，他們希望訓(xùn)練機(jī)器人不僅僅是在表面上模仿人類，而是真正的像人類一樣處理事情。
在這個項(xiàng)目上 Facebook 取得了一定的研究成果，他們的機(jī)器人在與人進(jìn)行談判時，人類甚至無法區(qū)分出對面的是機(jī)器還是人類。
但后來情況發(fā)生了變化。
Bob 和 Alice 之間的對話出現(xiàn)了上述那種語法不通的句子，據(jù) Facebook 人工智能實(shí)驗(yàn)室的研究人員 Dhruv Batra 所說，對話系統(tǒng)出現(xiàn)故障的原因是因?yàn)椤笡]有針對英語語言的獎勵機(jī)制」。此前我們報道過，深度學(xué)習(xí)技術(shù)的一個延伸——加強(qiáng)學(xué)習(xí)（Reinforcement Learning）中，技術(shù)人員可以通過設(shè)立獎勵機(jī)制來規(guī)范機(jī)器自學(xué)習(xí)的方向，從而得到開發(fā)者更想要的深度學(xué)習(xí)結(jié)果，比如去年 AlphaGo 在升級的過程中就使用了這樣的技術(shù)，再比如在這個事件里，據(jù) Dhruv 的說法，如果研究人員在系統(tǒng)中編寫針對英語語法的獎勵機(jī)制，系統(tǒng)就會偏向于更符合英語語法的語言，也就不會出現(xiàn)現(xiàn)在的情況。
我們就此事采訪了 AI 平臺公司三角獸科技的創(chuàng)始人馬宇馳先生，他認(rèn)為「這應(yīng)該是一個小題大做的事情，在模型訓(xùn)練不完善的時候?qū)υ?，會有類似的情形，理解成沒完成的訓(xùn)練工作也許更合適?！?/p>
另外一邊 iPIN 的創(chuàng)始人楊洋也持有類似的觀點(diǎn)：「任何對話，加上 GAN（生成對抗網(wǎng)絡(luò)），再做一些語言價值預(yù)設(shè)作為反饋邏輯，很容易出現(xiàn)這種情況。其實(shí)用 GAN 來訓(xùn)練機(jī)器人編程，本來就是這么個思路。」
說到底，這就是個技術(shù)失誤，所謂「英語是一個非常復(fù)雜且難懂的語言，對機(jī)器學(xué)習(xí)來說不是很適合」，聽起來非常危言聳聽，好像 AI 像科幻電影里一樣，已經(jīng)開始「淘汰人類」了，但事實(shí)是，機(jī)器只是機(jī)器，他們不過是設(shè)定好的程序，你見過哪個程序員用英語寫程序的？
這一點(diǎn)是各類鼓吹 AI 真的發(fā)明了一種語言這種說辭的的文章沒有提到的。
項(xiàng)目關(guān)閉原因有待證實(shí)
談到 Facebook 關(guān)閉該項(xiàng)目的原因，馬宇馳先生的態(tài)度非常明確：「Facebook 關(guān)閉 AI 項(xiàng)目的原因不可能是這種，應(yīng)該是外面杜撰出來的」，報道中出現(xiàn)的問題「修復(fù)重置等等都可以（解決）」。
據(jù)外媒最初的報道，F(xiàn)acebook 的研究員 Mike Lewis 表示，他們關(guān)閉該項(xiàng)目的原因是因?yàn)槟壳暗那闆r不符合他們的預(yù)期，「我們的目標(biāo)是讓機(jī)器人和人聊天」。