Facebook遠(yuǎn)遠(yuǎn)不是唯一一家運(yùn)行著龐大的數(shù)據(jù)中心以及使用GPU來進(jìn)行機(jī)器學(xué)習(xí)研究的公司。微軟、谷歌和中國(guó)的百度都正在使用GPU來加速它們的研究進(jìn)度。
對(duì)Facebook來說不太尋常的一件事就是它公開了大蘇爾服務(wù)器和其它服務(wù)器的設(shè)計(jì),以及將在普林維爾建立的數(shù)據(jù)中心。他們將這些信息在一個(gè)2011年Facebook建立的以鼓勵(lì)計(jì)算機(jī)公司共同進(jìn)行低成本計(jì)算設(shè)備開發(fā)為目的的叫做“開源計(jì)算計(jì)劃”(Open Compute Project)的計(jì)劃中貢獻(xiàn)了出來。這項(xiàng)計(jì)劃被看做幫助了亞洲國(guó)家的硬件公司以及擠壓了像戴爾和惠普這樣的傳統(tǒng)供應(yīng)商的生存空間。
今年早些時(shí)候大蘇爾計(jì)劃公布的時(shí)候,F(xiàn)acebook人工智能實(shí)驗(yàn)室的主任燕樂存(Yann LeCun)說,他相信通過促進(jìn)更多的組織和公司建立更強(qiáng)大的進(jìn)行機(jī)器學(xué)習(xí)的基礎(chǔ)設(shè)施,這個(gè)開源計(jì)劃可以加速相關(guān)領(lǐng)域的研究進(jìn)度。
普渡大學(xué)的一位副教授Eugenio Culurciello說,深度學(xué)習(xí)的實(shí)用性意味著這種芯片幾乎一定會(huì)被廣泛使用。他說,“這種需求已經(jīng)很大了,而且在將來也只會(huì)越來越大。”
在被問及Facebook有沒有在著手研發(fā)自己的定制芯片時(shí),Lee說,“公司正在考慮。”
戰(zhàn)術(shù)的勤奮與戰(zhàn)略的懶惰
Big Sur的特點(diǎn)是什么?是每臺(tái)服務(wù)器中都裝有8個(gè)NVIDIA生產(chǎn)的高端獨(dú)立GPU。如大家所知,由于服務(wù)器的職能特點(diǎn),其實(shí)一般的服務(wù)器內(nèi)部是沒有“三大件”中的獨(dú)立GPU,只有CPU和內(nèi)存的。因?yàn)镚PU的耗電量和發(fā)熱量都太大了。而其擅長(zhǎng)的計(jì)算形式又不能對(duì)服務(wù)器的常用計(jì)算需求起到太大的幫助作用。因此不太適合用在一般的服務(wù)器中。但是Facebook卻為了深度學(xué)習(xí)而專門設(shè)計(jì)了這款帶有8個(gè)獨(dú)立GPU的服務(wù)器,甚至不惜以減少每個(gè)機(jī)架上的服務(wù)器數(shù)量來優(yōu)化對(duì)深度學(xué)習(xí)程序的計(jì)算速度??芍^是下了血本。
而互聯(lián)網(wǎng)領(lǐng)域的其他大公司也沒閑著,如文中所說,微軟、谷歌、甚至是百度都在使用GPU、甚至開發(fā)自己的專用芯片來加速深度學(xué)習(xí)。在這些巨頭們的推動(dòng)下,深度學(xué)習(xí)算法的反應(yīng)也是越來越快,精度也越來越高。
這不是好事嗎?
答案是:我們真的沒法知道。目前的大多數(shù)深度學(xué)習(xí)模型建立的過程,都是先建立相當(dāng)有針對(duì)性的函數(shù),再用龐大的,極有針對(duì)性的數(shù)據(jù)去訓(xùn)練它們,最終得出一個(gè)很有針對(duì)性的概率選擇程序。也就是說,現(xiàn)在的深度學(xué)習(xí)AI你教它下棋,它就只會(huì)變得越來越會(huì)下棋,你教它識(shí)圖,它就只能越來越會(huì)識(shí)圖,而且它們識(shí)圖和做事的方式,說白了是經(jīng)過一系列的判斷后判斷結(jié)論有99.8%的可能是選擇A,有0.2%的可能是選擇B,于是便選擇了A這樣的過程。當(dāng)然,它們下棋和識(shí)圖的水平會(huì)變得很厲害,甚至變得比人類還厲害。但是終究還是只能限制于那個(gè)單獨(dú)的領(lǐng)域。你要問我們,或者問那些專家,我們能肯定這樣的程序發(fā)展下去,就一定能發(fā)展出真正的智能嗎?至少我們覺得,這些深度學(xué)習(xí)程序真的不太像是能發(fā)展處終極形態(tài)的AI的樣子。
Facebook的服務(wù)器固然十分強(qiáng)大,但它本質(zhì)上仍然是馮諾依曼架構(gòu)下的一臺(tái)比較快的電腦而已。它的面世不過是人工智能軍備競(jìng)賽中的一環(huán),對(duì)于深度學(xué)習(xí)理論的整個(gè)發(fā)展,其實(shí)起不到什么作用。包括谷歌的TPU,和逐漸開始走入很多人視野中的FPGA,也都只是一種“器”,雖然有“工欲善其事必先利其器”的古訓(xùn),但我們也都知道,有時(shí)候光有好的工具還是不夠的。深度學(xué)習(xí)的效果太好了,以至于讓很多專家忘了,其實(shí)人們還不知道真正的人工智能應(yīng)該怎么去實(shí)現(xiàn)。
不過,確實(shí)也有不少專家都看到了這一點(diǎn)。斯坦福人工智能實(shí)驗(yàn)室負(fù)責(zé)人李飛飛最近在同硅谷頂級(jí)投資機(jī)構(gòu)a16z的合伙人Frank Chen交流時(shí)就說道:她的下一個(gè)夢(mèng)想就是能教會(huì)機(jī)器人怎么去學(xué)習(xí),而不只是模仿訓(xùn)練數(shù)據(jù)。
而深度學(xué)習(xí)和計(jì)算機(jī)視覺公司商湯科技的執(zhí)行研發(fā)總監(jiān)曹旭東也提到過:做深度學(xué)習(xí)的人其實(shí)都有一個(gè)終極的追求,就是改變現(xiàn)在深度學(xué)習(xí)比較傻的以監(jiān)督學(xué)習(xí)為主流的模式,讓機(jī)器人的行為更加聰明,可以像人一樣學(xué)習(xí)。