5月21日消息,由百度牽頭的分布式深度機器學(xué)習(xí)開源平臺日前正式面向公眾開放,該平臺隸屬于名為“深盟”的開源組織,該組織核心開發(fā)者來自百度深度學(xué)習(xí)研究院(IDL),微軟亞洲研究院、華盛頓大學(xué)、紐約大學(xué)、香港科技大學(xué),卡耐基·梅隴大學(xué)等知名公司和高校。
據(jù)透露,“深盟”目前的重點開發(fā)項目被命名為“蟲洞”,其將成為所有深盟項目的統(tǒng)一入口。蟲洞將自動構(gòu)建深盟所有項目,為對所有組件提供一致的數(shù)據(jù)流支持,無論數(shù)據(jù)是以何種格式存在網(wǎng)絡(luò)共享磁盤,HDFS,還是Amazon S3。
此外,它還提供統(tǒng)一腳本來編譯和運行所有組件,使得用戶即可以在方便的本地集群運行任何一個分布式組件,又可以將任務(wù)提交到任何一個包括Amazon EC2,Microsfot Azure, Google Compute Engine在內(nèi)的云計算平臺,并提供自動的容災(zāi)管理。
截止目前,“深盟”分布式深度機器學(xué)習(xí)開源平臺的已有組件已成功覆蓋三類最常用的機器學(xué)習(xí)算法,包括被廣泛用于排序的決策樹模型(GBDT),用于點擊預(yù)測的稀疏線性模型(如Sparse Logistic Regression),以及目前的研究熱點深度學(xué)習(xí)。
未來“深盟”將致力于將實現(xiàn)和測試更多常用的機器學(xué)習(xí)算法,并通過更好的融合當(dāng)前各類組件,將提供更為一致性的用戶體驗。
資料顯示,機器學(xué)習(xí)是人工智能研究領(lǐng)域中的重要方向,而深度學(xué)習(xí)則是近年機器學(xué)習(xí)領(lǐng)域的一個重大突破, 作為目前最接近人腦的智能學(xué)習(xí)方法,深度學(xué)習(xí)可以完成需要高度抽象特征的人工智能任務(wù),如語音識別、圖像識別和檢索、自然語言理解等,有著廣泛的應(yīng)用前景。
在深度學(xué)習(xí)的研發(fā)上,百度一直在布局,早在2013年,其便組建了百度IDL(深度學(xué)習(xí)研究院),面向全球延攬一流學(xué)術(shù)人才,并嘗試將深度學(xué)習(xí)應(yīng)用于語音識別和圖像識別、檢索,以及廣告CTR預(yù)估(Click-Through-Rate Prediction,pCTR)等領(lǐng)域。
2014年,百度又將Andrew Ng招致麾下,Andrew Ng是斯坦福大學(xué)人工智能實驗室主任,入選過《時代》雜志年度全球最有影響力100人。百度稱,到目前為止,已有8項深度學(xué)習(xí)技術(shù)在百度產(chǎn)品上線,在用GPU提升計算效率,處理海量訓(xùn)練數(shù)據(jù),語音識別,OCR識別,人臉識別,圖像搜索等領(lǐng)域均有突破。
百度稱,通過深度機器學(xué)習(xí)開源平臺,世界各地的開發(fā)者們可免費獲更優(yōu)質(zhì)和更容易使用的分布式機器學(xué)習(xí)算法源碼,從而降低開發(fā)和部署分布式機器學(xué)習(xí)系統(tǒng)及相關(guān)應(yīng)用的門檻,包括今日頭條、汽車之家等在內(nèi)的多家公司已通過該開放平臺受益。
深盟項目負責(zé)人之一、百度深度學(xué)習(xí)研究院李沐介紹稱,此次百度推出的深度機器學(xué)習(xí)開源平臺,和其他開源軟件一樣沒任何使用限制,個人和機構(gòu)均可自由使用。其最大優(yōu)勢在于達工業(yè)級應(yīng)用標準。
李沐指出,目前業(yè)內(nèi)流行的分布式平臺例如Spark都基于JAVA語言,開發(fā)難度雖然較低,但通常在性能上有所缺陷。而此次“深盟”推出的深度機器學(xué)習(xí)開源平臺,其核心則完全采用C++語言,性能成熟穩(wěn)定,能滿足各種工業(yè)界需求。