實(shí)際上,人們關(guān)注大數(shù)據(jù)的原因不在于“大”,而在于“價(jià)值”。只有足夠有效的應(yīng)用,才能獲取數(shù)據(jù)的價(jià)值。對(duì)于企業(yè)來(lái)說,只有在戰(zhàn)略層面確立了數(shù)據(jù)分析的重要性,方可持續(xù)改善。
大數(shù)據(jù)之熱
9月的浦東新區(qū),天氣已經(jīng)略有涼意。張江高科技園區(qū)一個(gè)四周是玻璃的高檔辦公樓里,一大早,市場(chǎng)部門的資深員工李小姐正在自己的座位上開始一天工作之前的熱身:倒杯水,花上一刻鐘到半小時(shí)在各大網(wǎng)站上瀏覽當(dāng)天要聞。在她最常去的幾個(gè)論壇里,通常汽車、服裝,或者旅游促銷的廣告會(huì)不請(qǐng)自來(lái)。最近她發(fā)現(xiàn)這種多年不變的情形有了些不經(jīng)意的變化,比如剛剛跳出的這個(gè)窗口:大數(shù)據(jù)分析幫助你鎖定高價(jià)值客戶。“大數(shù)據(jù)”和旅游論壇有啥關(guān)系?她百思不得其解。
她所不知道的是,她在瀏覽器搜索界面里曾經(jīng)輸入的“客戶”、“促銷”、“通信錄”等關(guān)鍵詞,已被IE上面掛靠的抓取程序自動(dòng)獲取,并且被關(guān)聯(lián)了相應(yīng)的廣告,由IE插件完成最終的廣告推送。在北京郊區(qū)某處的機(jī)房里,基于“關(guān)聯(lián)規(guī)則”和“聚類”等統(tǒng)計(jì)分析方法的分析軟件在時(shí)刻不停地處理成千上萬(wàn)個(gè)李小姐產(chǎn)生的數(shù)據(jù)。
她或許還沒有注意到的是,大數(shù)據(jù)和分析正在成為全世界炙手可熱的概念。先是幾年前谷歌首席經(jīng)濟(jì)學(xué)家宣稱:數(shù)據(jù)分析員正成為21世紀(jì)最性感的職業(yè);又有2012年3月29日奧巴馬政府公布“大數(shù)據(jù)研發(fā)計(jì)劃”(Big Data Research and Development Initia-tive),白宮科技政策委員會(huì)(OSTP)還成立了大數(shù)據(jù)高層指導(dǎo)小組以推動(dòng)這一戰(zhàn)略規(guī)劃。再有就是今年的事情了,地球人都已經(jīng)知道,2013年是“國(guó)際統(tǒng)計(jì)年”。
幾個(gè)月前,Michael Rappa教授于美國(guó)眾院聆訊,主題正是“Next Generation Com-puting and Big Data Analytics”——下一代計(jì)算及大數(shù)據(jù)分析。Rappa教授作為IAA(In-stitute of Advanced Analytics, NCSU,北卡州立大學(xué)高等分析學(xué)院)創(chuàng)始人,去年被美國(guó)科學(xué)基金會(huì)新創(chuàng)立的大數(shù)據(jù)委員會(huì)任命為學(xué)術(shù)聯(lián)合主席。奧巴馬政府的大數(shù)據(jù)研發(fā)計(jì)劃資金正是來(lái)自于美國(guó)科學(xué)基金會(huì)。
國(guó)內(nèi)學(xué)術(shù)界,得益于前中國(guó)人民大學(xué)常務(wù)副校長(zhǎng)袁衛(wèi)先生及其他統(tǒng)計(jì)學(xué)界知名教授學(xué)者的持續(xù)不懈的努力,2012年,教育部終于把統(tǒng)計(jì)從數(shù)學(xué)的范疇內(nèi)獨(dú)立出來(lái),正式升級(jí)成為與數(shù)學(xué)、物理、化學(xué)、計(jì)算機(jī)等大學(xué)科平級(jí)的“一級(jí)學(xué)科”。
以統(tǒng)計(jì)學(xué)為核心的數(shù)據(jù)分析方法正在學(xué)術(shù)、工商和政府等領(lǐng)域顯現(xiàn)出越來(lái)越大的價(jià)值。李小姐電腦上的變化,則是這一趨勢(shì)的小小表征。
最近Gartner發(fā)布了2013年度商業(yè)智能和分析的魔力四象限圖,報(bào)告明確指出,大數(shù)據(jù)和分析正在成為企業(yè)IT規(guī)劃的核心。
一切的現(xiàn)象都在告訴人們,一個(gè)新的科技時(shí)代似乎正在來(lái)臨。有些IT職業(yè)追潮人士甚至激動(dòng)地認(rèn)為“人類歷史上第三次科技革命”即將到來(lái)。
大數(shù)據(jù)之惑
問題在于,什么是大數(shù)據(jù)?為什么人人言必稱大數(shù)據(jù)?“很大很大的數(shù)據(jù)”就是大數(shù)據(jù)。對(duì)“大”的定義在不斷刷新。10年前1GB數(shù)據(jù)已經(jīng)很大了,今天,1000GB并不算太大。
問題其實(shí)不在于大,而在價(jià)值。“大數(shù)據(jù)”再大仍舊只是數(shù)據(jù),沒有足夠有效的分析與應(yīng)用,一切數(shù)據(jù)都是垃圾。紐約時(shí)報(bào)專欄作家David Brooks認(rèn)為,缺乏足夠有效的分析是大數(shù)據(jù)的最大問題:越來(lái)越多的數(shù)據(jù),帶來(lái)越來(lái)越多的相關(guān)性;其實(shí)很多相關(guān)性都是沒有意義的,這種欺騙性質(zhì)的數(shù)據(jù)關(guān)聯(lián)會(huì)把數(shù)據(jù)管理者和使用者引入歧途,浪費(fèi)大量的人力物力去管理、分析這些數(shù)據(jù)。
除了傳統(tǒng)意義上人們認(rèn)為的那些有行有列有數(shù)值或者文字的數(shù)據(jù)表單之外,IT技術(shù)還幫助人們收集了越來(lái)越多的其他類型的資料,比如視頻,語(yǔ)音,圖片,文檔等。這些被稱為“非結(jié)構(gòu)化數(shù)據(jù)”。
結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)每天都在成倍的增加。以道路視頻監(jiān)控為例,全上海的攝像頭有10多萬(wàn)個(gè),每一刻都在記錄圖片與視頻。一旦發(fā)生案件或者事件,這些記錄在硬盤庫(kù)里的資料就成為偵察與審判環(huán)節(jié)的重要證據(jù)。盡管目前技術(shù)尚不支持,業(yè)界仍然期望未來(lái)能在TB乃至于PB級(jí)的視頻數(shù)據(jù)里搜到一張?zhí)囟ㄉ碛盎蛘吣樋?。這類搜索/分析技術(shù)未來(lái)將是啟動(dòng)視頻類大數(shù)據(jù)應(yīng)用的引擎。
同樣,基于語(yǔ)音、照片或者文本的分析與數(shù)據(jù)挖掘同樣可以給人類對(duì)數(shù)據(jù)的理解帶來(lái)革命性的突破。問題在于,這類技術(shù)仍停留在實(shí)驗(yàn)室階段。