近些年，大數(shù)據(jù)已經(jīng)和云計(jì)算一樣，成為時(shí)代的話題。大數(shù)據(jù)是怎么產(chǎn)生的，商業(yè)機(jī)會(huì)在哪？研究機(jī)會(huì)在哪？這個(gè)概念孕育著一個(gè)怎樣的未來？
昨天在車庫咖啡參加了一個(gè)小型的研討活動(dòng)，就這些問題進(jìn)行了一些討論，我結(jié)合自己的一些理解做一個(gè)總結(jié)。
首先，大數(shù)據(jù)是怎么產(chǎn)生的？
1）物理世界的信息大量數(shù)字化產(chǎn)生的
例如劉江老師指出的好大夫網(wǎng)，將醫(yī)生的信息，門診的信息等數(shù)字化。其實(shí)還有很多，比如新浪微博將茶館聊天的行為（弱關(guān)系產(chǎn)生信息數(shù)字化），朋友聊天的行為數(shù)字化（強(qiáng)關(guān)系產(chǎn)生信息數(shù)字化）。視頻監(jiān)控探頭將圖像數(shù)字化。
2）社交網(wǎng)絡(luò)產(chǎn)生的
在雅虎時(shí)代，大量的都是讀操作，只有雅虎的編輯做一些寫操作的工作。進(jìn)入web2.0時(shí)代，用戶數(shù)大量增加，用戶主動(dòng)提交了自己的行為。進(jìn)入了社交時(shí)代，移動(dòng)時(shí)代。大量移動(dòng)終端設(shè)備的出現(xiàn)，用戶不僅主動(dòng)提交自己的行為，還和自己的社交圈進(jìn)行了實(shí)時(shí)的互動(dòng)，因此數(shù)據(jù)大量的產(chǎn)生出來，并且具有了極其強(qiáng)烈的傳播性。
3）數(shù)據(jù)都要保存所產(chǎn)生的
一位嘉賓指出，舊金山大橋保留了百年的歷史數(shù)據(jù)，在時(shí)間跨度上產(chǎn)生了價(jià)值，很多網(wǎng)站在早期對數(shù)據(jù)的重視程度不夠，保存數(shù)據(jù)的代價(jià)很大，存儲(chǔ)設(shè)備的價(jià)格昂貴，但是時(shí)代變了，存儲(chǔ)設(shè)備便宜了，用戶自己產(chǎn)生的數(shù)據(jù)得到了重視，數(shù)據(jù)的價(jià)值被重視了。因此越來越多的數(shù)據(jù)被持續(xù)保存
其次，大數(shù)據(jù)和大規(guī)模數(shù)據(jù)的區(qū)別？
big data之前學(xué)術(shù)界叫very large data,大數(shù)據(jù)和大規(guī)模數(shù)據(jù)的差距是什么？我認(rèn)為在英文中l(wèi)arge的含義只是體積上的，而big的含義還包含重量上的，價(jià)值量上的。因此我認(rèn)為
1）大數(shù)據(jù)首先不是數(shù)量上的堆砌，而是具有很強(qiáng)的關(guān)聯(lián)性結(jié)構(gòu)性
比如有一種數(shù)據(jù)，記錄了世界上每一顆大樹每年長高的程度，這樣的數(shù)據(jù)不具有價(jià)值，因?yàn)橹皇呛唵味哑觥?br />
如果數(shù)據(jù)變成，每一個(gè)大樹記錄它的，地點(diǎn)，氣候條件，樹種，樹齡，周邊動(dòng)植物生態(tài)，每年長高的高度，那么這個(gè)數(shù)據(jù)就具有了結(jié)構(gòu)性。具有結(jié)構(gòu)性的數(shù)據(jù)首先具有極強(qiáng)的研究價(jià)值，其次極強(qiáng)的商業(yè)價(jià)值。
在比如，淘寶的數(shù)據(jù)，如果只記錄一個(gè)交易的買家，賣家，成交物品，價(jià)格等信息，那么這個(gè)商業(yè)價(jià)值就很有限。淘寶包含了，買家間的社交關(guān)系，購物前后的其他行為，那么這個(gè)數(shù)據(jù)將非常有價(jià)值。
因此，只有立體的，結(jié)構(gòu)性強(qiáng)的數(shù)據(jù)，才能叫大數(shù)據(jù)，才有價(jià)值，否則只能叫大規(guī)模數(shù)據(jù)。
2）大數(shù)據(jù)的規(guī)模一定要大，而且比大規(guī)模數(shù)據(jù)的規(guī)模還要大
要做一些預(yù)測模型需要很多數(shù)據(jù)，訓(xùn)練語料，如果數(shù)據(jù)不夠大，很多挖掘工作很難做，
tb比如點(diǎn)擊率預(yù)測。最直白的例子，如果你能知道一個(gè)用戶的長期行蹤數(shù)據(jù)，上網(wǎng)的行為，讀操作和寫操作。那么幾乎可以對這個(gè)人進(jìn)行非常精準(zhǔn)的預(yù)測，各種推薦的工作都能做到很精準(zhǔn)。
最后，大數(shù)據(jù)的機(jī)會(huì)在哪里？對小公司的機(jī)會(huì)在哪？
圍繞數(shù)據(jù)的整個(gè)產(chǎn)業(yè)鏈上，我認(rèn)為具有以下機(jī)會(huì)
1）數(shù)據(jù)的獲得
大量數(shù)據(jù)的獲得，這個(gè)機(jī)會(huì)基本屬于新浪微博等這類大企業(yè)，大量交易數(shù)據(jù)的獲得，也基本屬于京東，淘寶這類企業(yè)。小企業(yè)基本沒機(jī)會(huì)獨(dú)立得到這些用戶數(shù)據(jù)。
2）數(shù)據(jù)的匯集
例如如果你要能把各大廠商，各大微博，政府各個(gè)部門的數(shù)據(jù)匯集全，這個(gè)機(jī)會(huì)將是極大的。
但，這個(gè)工作，做大了需要政府行為，做中檔了，要企業(yè)間合作，做小了，也許就是一個(gè)聯(lián)盟或者一個(gè)民間組織，比如中國爬盟。
3）數(shù)據(jù)的存儲(chǔ)
匯集了數(shù)據(jù)后，立即遇到的問題就是存儲(chǔ)，這個(gè)代價(jià)極大，原始數(shù)據(jù)不能刪除，需要保留。因此提供存儲(chǔ)設(shè)備的公司，執(zhí)行存儲(chǔ)這個(gè)角色的公司，都具有巨大的市場機(jī)會(huì)，但是這也不屬于小公司，或者早期創(chuàng)業(yè)者。
4）數(shù)據(jù)的運(yùn)算
在存儲(chǔ)了數(shù)據(jù)以后，怎么把數(shù)據(jù)分發(fā)是個(gè)大問題，各種API,各種開放平臺(tái)，都是將這些數(shù)據(jù)發(fā)射出去，提供后續(xù)的挖掘和分析工作，這個(gè)也需要有大資本投入，也不適合小公司。
5）數(shù)據(jù)的挖掘和分析
數(shù)據(jù)需要做增值服務(wù)，否則數(shù)據(jù)就沒有價(jià)值，big也big不到哪里去，是沒有價(jià)值的big.因此這種數(shù)據(jù)分析和挖掘工作具有巨大的價(jià)值，這個(gè)機(jī)會(huì)屬于小公司，小團(tuán)體。
6）數(shù)據(jù)的使用和消費(fèi)
在數(shù)據(jù)做到了很好的挖掘和分析后，需要把這些結(jié)果應(yīng)用在一個(gè)具體的場合上，來獲得回報(bào)，做數(shù)據(jù)挖掘和分析的公司，必須得找到這些金主才行，而這些金主肯定也不是小公司。
大數(shù)據(jù)未來的形態(tài)，或者產(chǎn)業(yè)鏈結(jié)構(gòu)一定是分層的，巨大的，價(jià)值的體現(xiàn)發(fā)生在各個(gè)層次，每個(gè)層次都是生態(tài)鏈的重要一環(huán)，都孕育著巨大的機(jī)遇和挑戰(zhàn)，我們能做的唯有努力，做適合自己的工作。