"當我第一次在貝爾實驗室做到部門主管時,我的老板對我說,你需要記住兩點:首先,永遠不要讓自己陷入團隊內(nèi)部的競爭。第二,只雇傭那些比你更聰明的人,"LeCun說。
負責領(lǐng)導(dǎo)語言研究子群的Leon Bottou,是LeCun的一個老同事。他們一同研發(fā)了神經(jīng)網(wǎng)絡(luò)模擬器,1987年的AmigaOS就是他們的第一個作品。Bottou 2015年3月加入的FAIR,此前他在為微軟研究組工作的同時,還致力于機器學(xué)習(xí)和機器推理的探索。
從左數(shù)起,Leon Bottou, Yann LeCun, 還有Rob Fergus,在Facebook的紐約辦公室里工作
2014年11月,LeCun請來 Vladimir Vapnik作為他們的團隊顧問。Vapnik和LeCun曾一起在貝爾實驗室工作,發(fā)表了關(guān)于機器學(xué)習(xí)的形成性研究,其中包括一項測量機器學(xué)習(xí)能力的技術(shù)。Vapnik是統(tǒng)計學(xué)習(xí)理論之父,統(tǒng)計學(xué)習(xí)理論即基于既定數(shù)據(jù)的預(yù)測。預(yù)測,對人類來說似乎是一個簡單的任務(wù),實際上卻需要關(guān)于預(yù)先形成的概念和對世界的觀察的海量信息(更多是后者)。Vapnik,這一領(lǐng)域的先驅(qū),基于他在知識傳播上的興趣,繼續(xù)著這一領(lǐng)域的工作,并把師生互動時的線索運用在機器學(xué)習(xí)當中。
目標
團隊的規(guī)模和科研力量允許Facebook擁有雄心勃勃的長期目標,絕不會達不到被LeCun稱為"明確的智慧"的標準。
"迄今,最好的人工智能系統(tǒng)也是愚鈍的,因為它們沒有常識。"LeCun說道。他用一種情況舉例,比如我拿起一個瓶子,然后離開房間。(我們在紐約Facebook的會議室里討論真正的機器智能的誕生,而這個房間的名字卻不怎么吉利—— Gozer the Gozerian,與《捉鬼敢死隊》里面的反派同名。)人類的大腦不難想象出一個人拿起瓶子然后離開房間這么個簡單的場景,但對一臺機器來說,僅這個前提就會導(dǎo)致大量的信息缺失。
Yann一邊說,我一邊在心中想象這個場景:"你很可能站起來,即使我在語句中沒有提到,你也很可能走動;你打開門,走進去,也許還會關(guān)上門;瓶子不在房間里。由于知道真實世界的情況和界限,你可以借由判斷。因此我并不需要告訴你所有的細節(jié)。"
現(xiàn)在對于機器如何學(xué)習(xí)該水平的推理,人工智能領(lǐng)域的專家知道得并不多。在向這個目標邁進途中,F(xiàn)acebook正致力于制造能足夠好地學(xué)習(xí)已知世界的機器。
LeCun說:"最大的障礙是自助式學(xué)習(xí)(unsupervised learning)。"現(xiàn)在機器主要通過一兩種方式進行學(xué)習(xí),即他助式學(xué)習(xí)(supervised learning)——在系統(tǒng)中,向機器展示成千上萬的狗的圖片,直到機器了解了狗的特征。谷歌的DeepDream以研究者反轉(zhuǎn)流程以揭示出其有效性對這一方法進行了闡釋。
另一種方式是增強學(xué)習(xí)(reinforcement learning),即機器對給出的信息以是或否的二擇一的方式進行選擇,以給出一個答案。這種學(xué)習(xí)耗費的時間稍長,但是機器被強制由自身做出內(nèi)在的抉擇。當這兩種學(xué)習(xí)方式結(jié)合起來時,就會產(chǎn)生強大結(jié)果。(還記得DeepMind Atari嗎)。自助式學(xué)習(xí)不需要反饋或者輸入,LeCun表示這就是人類的學(xué)習(xí)方式。我們發(fā)現(xiàn)、得出結(jié)論,并將其加入到人類的知識庫存之中。這,被證明是一項艱巨的任務(wù)。
LeCun笑著說:"我們甚至沒有一個用以發(fā)展人工智能的基本指導(dǎo)原則,很明顯,我們在努力尋找。我們有很多點子,只是目前沒一個奏效罷了。"
真正人工智能的早期探索
但是這并不是說以前的探索沒有成果。現(xiàn)在讓LeCun激動的是關(guān)于"記憶網(wǎng)絡(luò)"的工作,其可以被整合進積卷神經(jīng)網(wǎng)絡(luò),并使它們獲得記憶保持的能力。LeCun把這個新的記憶模型比作大腦中的分別由海馬體和大腦皮層控制的短期記憶和長期記憶(LeCun厭惡把CNNs比作大腦,相反他更喜歡這個模型:一個帶有50億把手的黑箱)。
記憶單元允許研究者向該"記憶網(wǎng)絡(luò)"講說一個故事,隨后使該網(wǎng)絡(luò)回答關(guān)于這個故事的問題。
故事選自《指環(huán)王》一書。我們不把全書而是書中主要情節(jié)的簡短概述("比爾博拿到了魔戒")講給"記憶網(wǎng)絡(luò)",當被問及在書中某一具體情節(jié)中魔戒在哪里,這個"記憶網(wǎng)絡(luò)"能做出簡短正確的回答。Facebook 熟悉科學(xué)官Mike Schroepfer說(他強調(diào)技術(shù)可以幫助Facebook以更高的精確度向人們展示其想看到的)這意味著它理解書中事物與時間的關(guān)系。