大數(shù)據(jù)基本概念

大數(shù)據(jù)概念想必大家都不陌生，畢竟是近年來(lái)最熱門(mén)的話題之一。在計(jì)算機(jī)以及互聯(lián)網(wǎng)如此普及的今天，我們所有人每天都會(huì)在互聯(lián)網(wǎng)上產(chǎn)生大量的數(shù)據(jù)，例如在淘寶瀏覽商品時(shí)會(huì)產(chǎn)生數(shù)據(jù)，使用社交app進(jìn)行即時(shí)通訊時(shí)也會(huì)產(chǎn)生數(shù)據(jù)，每天股市的上漲下跌及交易量也是數(shù)據(jù)......如此可見(jiàn)，每天互聯(lián)網(wǎng)上產(chǎn)生的數(shù)據(jù)是有多龐大，數(shù)據(jù)可謂是無(wú)處不在：

但是數(shù)據(jù)量大，只是大數(shù)據(jù)概念的特征之一，大數(shù)據(jù)有4個(gè)特征簡(jiǎn)稱(chēng)4V特征：

在2001年，高德納分析員道格·萊尼在一份與其2001年的研究相關(guān)的演講中指出，數(shù)據(jù)增長(zhǎng)有三個(gè)方向的挑戰(zhàn)和機(jī)遇：量（Volume），即數(shù)據(jù)多少；速（Velocity），即資料輸入、輸出的速度；類(lèi)（Variety），即多樣性。

在萊尼的理論基礎(chǔ)上，IBM提出大數(shù)據(jù)的4V特征，得到了業(yè)界的廣泛認(rèn)可。第一，數(shù)量（Volume），即數(shù)據(jù)巨大，從TB級(jí)別躍升到PB級(jí)別；第二，多樣性（Variety），即數(shù)據(jù)類(lèi)型繁多，不僅包括傳統(tǒng)的格式化數(shù)據(jù)，還包括來(lái)自互聯(lián)網(wǎng)的網(wǎng)絡(luò)日志、視頻、圖片、地理位置信息等；第三，速度（Velocity），即處理速度快，如果處理不夠高速則無(wú)法應(yīng)用在實(shí)時(shí)更新數(shù)據(jù)的場(chǎng)景上；第四，價(jià)值（Value），即追求高質(zhì)量的、有價(jià)值的數(shù)據(jù)。

大數(shù)據(jù)4V特征：

• Volume 大量，既然叫大數(shù)據(jù)，那么數(shù)據(jù)量肯定得大
• Variety多樣性，數(shù)據(jù)可以多種結(jié)構(gòu)，可以是結(jié)構(gòu)性數(shù)據(jù)、半結(jié)構(gòu)性數(shù)據(jù)以及非結(jié)構(gòu)性數(shù)據(jù)
• Value價(jià)值，這些大量的數(shù)據(jù)需要能夠被挖掘出有價(jià)值的數(shù)據(jù)，因?yàn)闊o(wú)價(jià)值的數(shù)據(jù)只是一堆占用存儲(chǔ)空間的垃圾
• Velocity高速，數(shù)據(jù)的處理速度要快，時(shí)效性強(qiáng)，因?yàn)楹芏鄨?chǎng)景下要實(shí)時(shí)更新、檢測(cè)數(shù)據(jù)

想要詳細(xì)了解大數(shù)據(jù)的4V特征可以參考以下文章：

http://www.mahaixiang.cn/sjfx/803.html
https://www.jianshu.com/p/b3281082edb3
https://www.leiphone.com/news/201410/NgTsZw3yDjEbk9on.html

大數(shù)據(jù)要解決的問(wèn)題

大數(shù)據(jù)是要用來(lái)從中挖掘有價(jià)值的數(shù)據(jù)的，如果數(shù)據(jù)不能給企業(yè)帶來(lái)價(jià)值，不能給用戶帶來(lái)更好的體驗(yàn)，那么這些數(shù)據(jù)就是無(wú)用的。而從數(shù)據(jù)中挖掘價(jià)值就是大數(shù)據(jù)要解決的問(wèn)題，這就好像淘金、挖礦一樣，我們利用大數(shù)據(jù)技術(shù)從海量數(shù)據(jù)中挖掘有用的數(shù)據(jù)，剔除無(wú)用的數(shù)據(jù)：

大數(shù)據(jù)帶來(lái)的挑戰(zhàn)

大數(shù)據(jù)涉及到的技術(shù)：

1.數(shù)據(jù)采集：
我們需要將分散的數(shù)據(jù)都采集起來(lái)，集中在一起，才能夠進(jìn)行數(shù)據(jù)的分析

2.數(shù)據(jù)存儲(chǔ)：
將大量的數(shù)據(jù)采集起來(lái)后，存儲(chǔ)就是個(gè)問(wèn)題，需要存儲(chǔ)空間足夠大

3.數(shù)據(jù)處理/分析/挖掘：
存儲(chǔ)的問(wèn)題解決后，才開(kāi)始對(duì)這些數(shù)據(jù)進(jìn)行處理，分析、挖掘有價(jià)值的數(shù)據(jù)出來(lái)

4.可視化：
最后就是將這些挖掘出來(lái)的數(shù)據(jù)進(jìn)行可視化、圖形化后呈現(xiàn)給別人看，總不可能讓你領(lǐng)導(dǎo)來(lái)看一堆數(shù)字或字符串吧

大數(shù)據(jù)在技術(shù)架構(gòu)上帶來(lái)的挑戰(zhàn)：

1.對(duì)現(xiàn)有數(shù)據(jù)庫(kù)管理技術(shù)的挑戰(zhàn)：
海量的數(shù)據(jù)想要存儲(chǔ)到傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)是不太現(xiàn)實(shí)的，雖然數(shù)據(jù)庫(kù)可以進(jìn)行集群，但是基本上也不能處理TB級(jí)以上的數(shù)據(jù)分析的，所以現(xiàn)階段無(wú)法使用結(jié)構(gòu)化的查詢及處理去解決這些問(wèn)題

2.傳統(tǒng)數(shù)據(jù)庫(kù)技術(shù)并沒(méi)有考慮數(shù)據(jù)的多類(lèi)別：
關(guān)系型數(shù)據(jù)庫(kù)的結(jié)構(gòu)都是庫(kù) >> 表 >> 字段的關(guān)系結(jié)構(gòu)，而大數(shù)據(jù)具有數(shù)據(jù)多樣化的特征，所以不好存儲(chǔ)

3.實(shí)時(shí)性的技術(shù)挑戰(zhàn)：
數(shù)據(jù)所產(chǎn)生的價(jià)值會(huì)隨著時(shí)間的推移而降低，所以要讓數(shù)據(jù)實(shí)時(shí)展現(xiàn)是個(gè)問(wèn)題

4.網(wǎng)絡(luò)架構(gòu)、數(shù)據(jù)中心、運(yùn)維的挑戰(zhàn)：
由于數(shù)據(jù)一直呈大幅增長(zhǎng)的狀態(tài)，而數(shù)據(jù)又要實(shí)時(shí)地呈現(xiàn)，這對(duì)網(wǎng)絡(luò)傳輸上是一個(gè)挑戰(zhàn)。而且數(shù)據(jù)量大，肯定得多臺(tái)服務(wù)器進(jìn)行存儲(chǔ)，這就給數(shù)據(jù)中心以及運(yùn)維帶來(lái)一定的挑戰(zhàn)

大數(shù)據(jù)帶來(lái)的其他挑戰(zhàn)：

1.數(shù)據(jù)隱私：
這個(gè)不用說(shuō)，海量數(shù)據(jù)里肯定會(huì)包含一些用戶的隱私數(shù)據(jù)，我們得保障這些數(shù)據(jù)不外泄

2.數(shù)據(jù)源復(fù)雜多樣：
之前也提到過(guò)大數(shù)據(jù)的特征之一就是數(shù)據(jù)的多樣性，如何處理好多樣的數(shù)據(jù)是個(gè)問(wèn)題

如何應(yīng)對(duì)大數(shù)據(jù)帶來(lái)的挑戰(zhàn)

對(duì)于以上所說(shuō)到的挑戰(zhàn)，Google已經(jīng)有應(yīng)對(duì)這些挑戰(zhàn)的技術(shù)了：

• MapReduce 可以解決計(jì)算效率的問(wèn)題
• Big Table 可以解決讀寫(xiě)速度的問(wèn)題
• GFS 可以解決存儲(chǔ)容量的問(wèn)題

但是，Google只發(fā)表了這些技術(shù)的論文，并沒(méi)有開(kāi)源這些技術(shù)，所以我們無(wú)法進(jìn)行使用。不過(guò)，好在Apache基金會(huì)模仿著Google的大數(shù)據(jù)技術(shù)，開(kāi)發(fā)出了Hadoop生態(tài)圈，Hadoop也是學(xué)習(xí)大數(shù)據(jù)技術(shù)必須要學(xué)的框架。

• Hadoop里也有MapReduce
• Hbase對(duì)應(yīng)著B(niǎo)ig Table
• HDFS對(duì)應(yīng)著GFS

如何學(xué)好大數(shù)據(jù)

1.學(xué)習(xí)一個(gè)框架，最好的方式就是查看它的官方，因?yàn)楣倬W(wǎng)上的文檔是最權(quán)威且最詳細(xì)的。

2.通過(guò)項(xiàng)目實(shí)戰(zhàn)對(duì)知識(shí)點(diǎn)進(jìn)行鞏固和融會(huì)貫通

3.參加一些社區(qū)活動(dòng)：Meetup、開(kāi)源社區(qū)大會(huì)、線下沙龍等，與他人交流有助于提升眼界

4.切記：多動(dòng)手、多練習(xí)、貴在堅(jiān)持

5.最好將英文學(xué)好，因?yàn)楹芏嗪玫募夹g(shù)論文以及文章都是英文的，而且官網(wǎng)的語(yǔ)言也是英文的