盡管對(duì)于許多人來說,大數(shù)據(jù)相關(guān)技術(shù),如Hadoop、NoSQL數(shù)據(jù)庫以及內(nèi)存分析等都還是新鮮事物,但不得不承認(rèn)在過去的一兩年中,這些技術(shù)都得到了更廣泛地運(yùn)用和發(fā)展。大數(shù)據(jù)究竟有多大?市場(chǎng)調(diào)研機(jī)構(gòu)Wikibon的分析師Jeff Kelly指出,2012年大數(shù)據(jù)市場(chǎng)總額為114億美元,預(yù)計(jì)到2017年將增長(zhǎng)到470億美元。
Jeff Kelly曾就職于TechTarget,并擔(dān)任多年新聞編輯工作。近期,他接受了記者的采訪,針對(duì)Wikibon對(duì)大數(shù)據(jù)的預(yù)測(cè)進(jìn)行了深入交流。本文為采訪實(shí)錄,主要論及了大數(shù)據(jù)蔓延、大數(shù)據(jù)生態(tài)系統(tǒng)以及NoSQL等話題。
當(dāng)你研究大數(shù)據(jù)市場(chǎng)的時(shí)候,除了Hadoop,還有哪些元素是在你的考察范圍以內(nèi)的?
Jeff Kelly:針對(duì)這個(gè)問題我們做了很長(zhǎng)時(shí)間的考慮。Hadoop當(dāng)然是其中最重要的一環(huán),但并不是全部。大數(shù)據(jù)幾乎與數(shù)據(jù)生命周期管理中的每一個(gè)環(huán)節(jié)都息息相關(guān),于是我們最終決定對(duì)新技術(shù)進(jìn)行考量。因?yàn)閭鹘y(tǒng)數(shù)據(jù)管理技術(shù)無法處理海量、多類型以及高速流動(dòng)的數(shù)據(jù),而Hadoop、NoSQL等則可以。
我們還對(duì)硬件進(jìn)行了評(píng)估,因?yàn)樗侵紊鲜黾夹g(shù)的基礎(chǔ)。另外對(duì)于一些不是非常新,但是與大數(shù)據(jù)負(fù)載很貼近的軟件技術(shù)也是我們考量的范圍。舉個(gè)例子,比如你需要數(shù)據(jù)集成軟件把把數(shù)據(jù)導(dǎo)入Hadoop。但目前還沒有一個(gè)統(tǒng)一的大數(shù)據(jù)平臺(tái)標(biāo)準(zhǔn)。
傳統(tǒng)的商業(yè)智能報(bào)表軟件不是我們考量的范圍,但其他一些可視化軟件我們會(huì)重點(diǎn)關(guān)注。大數(shù)據(jù)不僅僅是一種技術(shù),同樣也是一種對(duì)待數(shù)據(jù)的態(tài)度。在大數(shù)據(jù)的推動(dòng)下,人們也開始使用一些原有的工具來探索更多處理數(shù)據(jù)的方式。
我們看到的大數(shù)據(jù)用例都有哪些?
Kelly:可以看到,互聯(lián)網(wǎng)公司在大數(shù)據(jù)應(yīng)用方面一直走在最前面??梢哉f是Google創(chuàng)造出了我們今天所知道的大數(shù)據(jù),然后Yahoo創(chuàng)造了Hadoop,其他互聯(lián)網(wǎng)公司也都紛紛在做新的嘗試。但是我們也應(yīng)該看到,現(xiàn)在許多傳統(tǒng)行業(yè)的大數(shù)據(jù)應(yīng)用也在開展,比如生物制藥領(lǐng)域在使用大數(shù)據(jù)進(jìn)行基因研究。
金融服務(wù)公司也是大數(shù)據(jù)的早期應(yīng)用者,比如利用Hadoop技術(shù)獲得更多的競(jìng)爭(zhēng)力。另外在零售業(yè),雖然發(fā)展速度稍緩,但是他們也在不斷做大數(shù)據(jù)的嘗試。雖然人們會(huì)認(rèn)為這有些夸張,但我不得不說,大數(shù)據(jù)已經(jīng)滲透到了各行各業(yè)當(dāng)中。
根據(jù)你的觀點(diǎn),對(duì)于那些大型廠商如IBM和Oracle等,大數(shù)據(jù)市場(chǎng)是怎樣的呢?
Kelly:大型廠商毫無疑問都在著力投入大數(shù)據(jù)產(chǎn)品的服務(wù)的開發(fā),因?yàn)樗麄冎肋@是客戶需要的東西。不少廠商都開始發(fā)力大數(shù)據(jù)市場(chǎng),而IBM在其中是已經(jīng)走得比較久的。IBM很久以前就收購了不少分析軟件公司,他們還在專注于所謂的智慧地球的項(xiàng)目,其中大數(shù)據(jù)或者說如何更好地利用好數(shù)據(jù)是他們的重點(diǎn)。IBM在大數(shù)據(jù)業(yè)務(wù)收入方面也是領(lǐng)先的,根據(jù)Wikibon的數(shù)據(jù),藍(lán)色巨人在2012年大數(shù)據(jù)應(yīng)用方面的收入已經(jīng)超過了10億美元。
Oracle在他們的集成系統(tǒng)中使用了Cloudera Hadoop(參考鏈接:Oracle和Cloudera高管談大數(shù)據(jù)機(jī)),他們也有自己的NoSQL數(shù)據(jù)庫,還有豐富的Exadata一體機(jī)系列。關(guān)于這些是否能成為大數(shù)據(jù)戰(zhàn)略,我們?cè)?jīng)有過激烈的討論。根據(jù)所看到的負(fù)載類型,我們暫且稱之為大數(shù)據(jù)。
但是Oracle在所有供應(yīng)商里應(yīng)該是地位最尷尬的,因?yàn)?ldquo;Hadoop/NoSQL”模型是需要進(jìn)行橫向擴(kuò)展的,集群應(yīng)該由廉價(jià)的PC服務(wù)器組成。Oracle提供的都是縱向擴(kuò)展的“大盒子”,而且價(jià)格昂貴。對(duì)此Oracle如何回應(yīng)是非常值得關(guān)注的。Oracle在數(shù)據(jù)庫領(lǐng)域的領(lǐng)先地位是根深蒂固的,這是他們最大的資本,但我們也應(yīng)該看到他們現(xiàn)在的模式是與開源社區(qū)相違背的,而后者是大數(shù)據(jù)發(fā)展的主要?jiǎng)恿Α?/p>
NoSQL、NewSQL和Hadoop的發(fā)展趨勢(shì)是怎樣的?
Kelly:最大的趨勢(shì)就是Hadoop廠商現(xiàn)在都在努力把SQL功能帶入Hadoop和NoSQL當(dāng)中。人們知道NoSQL善于橫向擴(kuò)展并處理非結(jié)構(gòu)化數(shù)據(jù),但是要將其上升到企業(yè)級(jí)應(yīng)用層面,就必須滿足企業(yè)級(jí)在可用性和安全性方面的要求?,F(xiàn)在NoSQL的發(fā)展趨勢(shì)就是向企業(yè)級(jí)轉(zhuǎn)移,這會(huì)讓NoSQL數(shù)據(jù)庫技術(shù)的發(fā)展邁上一個(gè)新的臺(tái)階。