深度學(xué)習(xí)的坎坷之路
2012年11月23日，應(yīng)該是一個讓時任谷歌人工智能實驗室專家的Geoff Hinton倍感欣慰的日子，在這一天，紐約時報發(fā)布了名為《Scientist See promise in Deep Learning Program》（科學(xué)家們在深度學(xué)習(xí)上看到了希望）的報道，正式標(biāo)志著深度學(xué)習(xí)被學(xué)界乃至全社會完全接受，從那時開始，Hinton大神數(shù)十年的默默堅持，終于給深度學(xué)習(xí)帶來了一段持續(xù)至今的全盛期。
誰也無法否認(rèn)在計算能力爆炸性增長的今天，的深度學(xué)習(xí)確實取得了巨大的成就，每一個置身于AI研究行業(yè)的人或許都永遠不會忘記，在李世石和AlphaGo的對決中，人們的態(tài)度由最初的漫不經(jīng)心，到中間的震驚和沉默，第四局李世石戰(zhàn)勝之后的狂喜，和最終的嘆息和敬佩。可是在這股科學(xué)界“全民DL”的風(fēng)潮下，卻逐漸有人開始對它提出了自己的質(zhì)疑。
CVPR2016上，Mobileye的CTO Amnon Shashua在演講中說道：他認(rèn)為深度學(xué)習(xí)的研究繞了遠路。因為真正的AI應(yīng)該能幫人類解決人類解決不了的問題，而目前的AI的表現(xiàn)卻僅限于人類已經(jīng)能非常明確的理解和解釋的領(lǐng)域。
同樣是在CVPR期間，巴黎高等計算機視覺研究所的主任Nikos Paragios表示，深度學(xué)習(xí)方法幾乎已經(jīng)壟斷了目前的計算機視覺，甚至是AI科研領(lǐng)域的所有研究，導(dǎo)致其他的方法和基礎(chǔ)研究無人問津，對此感到有些擔(dān)憂。
而在本屆的IJCAI上，在計算機哲學(xué)上已有數(shù)十年經(jīng)驗的Aaron Sloman也在演講中表示，自己認(rèn)為AI作為一門科學(xué)（而不是工程學(xué)）已經(jīng)在過去的二三十年間失去了方向。
今天Facebook搞了個大新聞：有多家主流媒體報道了Facebook即將建立的新數(shù)據(jù)中心和專為深度學(xué)習(xí)而研制的服務(wù)器Big Sur，而這個新聞卻反而再次喚醒了我們心中的疑問：Facebook和Google它們現(xiàn)在努力的方向，會不會錯了？
讓我們先來看看關(guān)于Facebook這個服務(wù)器的其中一條新聞吧：
走進Facebook AI數(shù)據(jù)處理的心臟
從北美的西部訪問facebook的話，你的訪問數(shù)據(jù)有很大可能會經(jīng)過一個位于俄勒岡州中心的高地沙漠中一塊被充斥著滿滿的杜松香氣的空氣所冷卻的服務(wù)器群。在普林維爾的市區(qū)，一個有大概9000人常住著的地方，F(xiàn)acebook存儲著他們數(shù)以億計的數(shù)據(jù)。一行一行的電腦整齊的排列在四座總占地面積將近75000平方米（800000平方英尺）的巨型建筑里。這些建筑被設(shè)計成剛好能讓從西北吹來的干燥，并且通常相當(dāng)涼爽的風(fēng)吹進它們之間。過道中堆疊著的服務(wù)器閃著藍色和綠色的燈，發(fā)出著單調(diào)的噪音，但在內(nèi)部它們其實每時每刻都在不間斷的處理著Facebook登陸、贊和“大笑”之類的服務(wù)進程。
Facebook最近在普林維爾的設(shè)備中加入了一些新的機器：他們在這里安裝了一組全新的，用來加速訓(xùn)練類似翻譯軟件、私人助手和文字理解之類程序的高性能服務(wù)器。
這些最新的“大蘇爾”服務(wù)器（Big Sur servers）是圍繞一種最初被制造用來進行圖像處理的，以GPU的名字為大眾所知的高性能處理器而設(shè)計的。這些芯片對最近AI領(lǐng)域取得了極大發(fā)展的深度學(xué)習(xí)技術(shù)有著更好的支持。在GPU的支持下，曾經(jīng)的深度學(xué)習(xí)軟件得以處理規(guī)模和復(fù)雜程度大得多的數(shù)據(jù)集，因而在最終識別圖像和語音等方面應(yīng)用的效果取得了顯著的改善。
Kevin Lee，F(xiàn)acebook的一名服務(wù)器工程師說，由于擁有了更快的速度，他們得以幫Facebook的研究者們用更多數(shù)據(jù)訓(xùn)練了他們的深度學(xué)習(xí)軟件，“這些服務(wù)器都是針對AI研究和機器學(xué)習(xí)計算而特制的。”他說，“這些GPU可以把圖片分成無數(shù)個細(xì)小的局部然后同時處理它們。”
Facebook在每臺大蘇爾服務(wù)器上放置了大概8臺NVIDIA——這種芯片的領(lǐng)導(dǎo)級制造商——制造的GPU。Lee不愿透露已經(jīng)部署了多少臺這種服務(wù)器，但是他說Facebook至少已經(jīng)有數(shù)千個GPU投入工作了。大蘇爾服務(wù)器已經(jīng)被安放在了公司在普林維爾、阿什本和弗吉尼亞的數(shù)據(jù)中心。
由于GPU的耗電量極其龐大，F(xiàn)acebook不得不用比其它服務(wù)器更低的密度來在數(shù)據(jù)中心中布置這些服務(wù)器，否則可能會形成一些過熱的情況，不僅會對冷卻系統(tǒng)造成更大的負(fù)擔(dān)，也會消耗掉更多的能量。一個2.1米（7英尺）高的機架上可以堆疊8臺大蘇爾服務(wù)器 ，而相同的機架可以容納30臺標(biāo)準(zhǔn)的Facebook服務(wù)器，如果是處理日常任務(wù)的話，它們其實可以做得更快。