您好，很高興為您解答問(wèn)題，大數(shù)據(jù)是本科專(zhuān)業(yè)。
專(zhuān)注于為中小企業(yè)提供成都網(wǎng)站建設(shè)、網(wǎng)站設(shè)計(jì)服務(wù),電腦端+手機(jī)端+微信端的三站合一,更高效的管理,為中小企業(yè)桂平免費(fèi)做網(wǎng)站提供優(yōu)質(zhì)的服務(wù)。我們立足成都，凝聚了一批互聯(lián)網(wǎng)行業(yè)人才，有力地推動(dòng)了近千家企業(yè)的穩(wěn)健成長(zhǎng)，幫助中小企業(yè)通過(guò)網(wǎng)站建設(shè)實(shí)現(xiàn)規(guī)模擴(kuò)充和轉(zhuǎn)變。
1、數(shù)據(jù)科學(xué)與大數(shù)據(jù)技術(shù)屬于交叉學(xué)科：以統(tǒng)計(jì)學(xué)、數(shù)學(xué)、計(jì)算機(jī)為三大支撐性學(xué)科；生物、醫(yī)學(xué)、環(huán)境科學(xué)、經(jīng)濟(jì)學(xué)、社會(huì)學(xué)、管理學(xué)為應(yīng)用拓展性學(xué)科。2、數(shù)據(jù)科學(xué)與大數(shù)據(jù)技術(shù)專(zhuān)業(yè)屬于交叉學(xué)科：以統(tǒng)計(jì)學(xué)、數(shù)學(xué)、計(jì)算機(jī)為三大支撐性學(xué)科；生物、醫(yī)學(xué)、環(huán)境科學(xué)、經(jīng)濟(jì)學(xué)、社會(huì)學(xué)、管理學(xué)為應(yīng)用拓展性學(xué)科。此外還需學(xué)習(xí)數(shù)據(jù)采集、分析、處理軟件，學(xué)習(xí)數(shù)學(xué)建模軟件及計(jì)算機(jī)編程語(yǔ)言等，知識(shí)結(jié)構(gòu)是二專(zhuān)多能復(fù)合的跨界人才。3、 大數(shù)據(jù)（Big data）通常用來(lái)形容一個(gè)公司創(chuàng)造的大量非結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)，這些數(shù)據(jù)在下載到 關(guān)系型數(shù)據(jù)庫(kù) 用于分析時(shí)會(huì)花費(fèi)過(guò)多時(shí)間和金錢(qián)。. 大數(shù)據(jù)分析常和云計(jì)算聯(lián)系到一起，因?yàn)閷?shí)時(shí)的大型數(shù)據(jù)集分析需要像MapReduce一樣的框架來(lái)向數(shù)十、數(shù)百或甚至數(shù)千的電腦分配工作。
以上是我的全部回復(fù)，希望能夠幫助到您，祝您生活愉快～
大數(shù)據(jù)的由來(lái)
對(duì)于“大數(shù)據(jù)”（Big data）研究機(jī)構(gòu)Gartner給出了這樣的定義。“大數(shù)據(jù)”是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力來(lái)適應(yīng)海量、高增長(zhǎng)率和多樣化的信息資產(chǎn)。
1
麥肯錫全球研究所給出的定義是：一種規(guī)模大到在獲取、存儲(chǔ)、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫(kù)軟件工具能力范圍的數(shù)據(jù)集合，具有海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)、多樣的數(shù)據(jù)類(lèi)型和價(jià)值密度低四大特征。
大數(shù)據(jù)技術(shù)的戰(zhàn)略意義不在于掌握龐大的數(shù)據(jù)信息，而在于對(duì)這些含有意義的數(shù)據(jù)進(jìn)行專(zhuān)業(yè)化處理。換而言之，如果把大數(shù)據(jù)比作一種產(chǎn)業(yè)，那么這種產(chǎn)業(yè)實(shí)現(xiàn)盈利的關(guān)鍵，在于提高對(duì)數(shù)據(jù)的“加工能力”，通過(guò)“加工”實(shí)現(xiàn)數(shù)據(jù)的“增值”。
從技術(shù)上看，大數(shù)據(jù)與云計(jì)算的關(guān)系就像一枚硬幣的正反面一樣密不可分。大數(shù)據(jù)必然無(wú)法用單臺(tái)的計(jì)算機(jī)進(jìn)行處理，必須采用分布式架構(gòu)。它的特色在于對(duì)海量數(shù)據(jù)進(jìn)行分布式數(shù)據(jù)挖掘。但它必須依托云計(jì)算的分布式處理、分布式數(shù)據(jù)庫(kù)和云存儲(chǔ)、虛擬化技術(shù)。
大數(shù)據(jù)需要特殊的技術(shù)，以有效地處理大量的容忍經(jīng)過(guò)時(shí)間內(nèi)的數(shù)據(jù)。適用于大數(shù)據(jù)的技術(shù)，包括大規(guī)模并行處理（MPP）數(shù)據(jù)庫(kù)、數(shù)據(jù)挖掘、分布式文件系統(tǒng)、分布式數(shù)據(jù)庫(kù)、云計(jì)算平臺(tái)、互聯(lián)網(wǎng)和可擴(kuò)展的存儲(chǔ)系統(tǒng)。
最小的基本單位是bit，按順序給出所有單位：bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。
大數(shù)據(jù)的應(yīng)用領(lǐng)域
大數(shù)據(jù)無(wú)處不在，大數(shù)據(jù)應(yīng)用于各個(gè)行業(yè)，包括金融、 汽車(chē) 、餐飲、電信、能源、體能和 娛樂(lè) 等在內(nèi)的 社會(huì) 各行各業(yè)都已經(jīng)融入了大數(shù)據(jù)的印跡。
制造業(yè)，利用工業(yè)大數(shù)據(jù)提升制造業(yè)水平，包括產(chǎn)品故障診斷與預(yù)測(cè)、分析工藝流程、改進(jìn)生產(chǎn)工藝，優(yōu)化生產(chǎn)過(guò)程能耗、工業(yè)供應(yīng)鏈分析與優(yōu)化、生產(chǎn)計(jì)劃與排程。
金融行業(yè)，大數(shù)據(jù)在高頻交易、社交情緒分析和信貸風(fēng)險(xiǎn)分析三大金融創(chuàng)新領(lǐng)域發(fā)揮重大作用。
汽車(chē) 行業(yè)，利用大數(shù)據(jù)和物聯(lián)網(wǎng)技術(shù)的無(wú)人駕駛 汽車(chē) ，在不遠(yuǎn)的未來(lái)將走入我們的日常生活。
互聯(lián)網(wǎng)行業(yè)，借助于大數(shù)據(jù)技術(shù)，可以分析客戶(hù)行為，進(jìn)行商品推薦和針對(duì)性廣告投放。
電信行業(yè)，利用大數(shù)據(jù)技術(shù)實(shí)現(xiàn)客戶(hù)離網(wǎng)分析，及時(shí)掌握客戶(hù)離網(wǎng)傾向，出臺(tái)客戶(hù)挽留措施。
能源行業(yè)，隨著智能電網(wǎng)的發(fā)展，電力公司可以掌握海量的用戶(hù)用電信息，利用大數(shù)據(jù)技術(shù)分析用戶(hù)用電模式，可以改進(jìn)電網(wǎng)運(yùn)行，合理設(shè)計(jì)電力需求響應(yīng)系統(tǒng)，確保電網(wǎng)運(yùn)行安全。
物流行業(yè)，利用大數(shù)據(jù)優(yōu)化物流網(wǎng)絡(luò)，提高物流效率，降低物流成本。
城市管理，可以利用大數(shù)據(jù)實(shí)現(xiàn)智能交通、環(huán)保監(jiān)測(cè)、城市規(guī)劃和智能安防。
體育 娛樂(lè) ，大數(shù)據(jù)可以幫助我們訓(xùn)練球隊(duì)，決定投拍哪種 題財(cái)?shù)?影視作品，以及預(yù)測(cè)比賽結(jié)果。
安全領(lǐng)域，政府可以利用大數(shù)據(jù)技術(shù)構(gòu)建起強(qiáng)大的國(guó)家安全保障體系，企業(yè)可以利用大數(shù)據(jù)抵御網(wǎng)絡(luò)攻擊，警察可以借助大數(shù)據(jù)來(lái)預(yù)防犯罪。
個(gè)人生活， 大數(shù)據(jù)還可以應(yīng)用于個(gè)人生活，利用與每個(gè)人相關(guān)聯(lián)的“個(gè)人大數(shù)據(jù)”，分析個(gè)人生活行為習(xí)慣，為其提供更加周到的個(gè)性化服務(wù)。
大數(shù)據(jù)的價(jià)值，遠(yuǎn)遠(yuǎn)不止于此，大數(shù)據(jù)對(duì)各行各業(yè)的滲透，大大推動(dòng)了 社會(huì) 生產(chǎn)和生活，未來(lái)必將產(chǎn)生重大而深遠(yuǎn)的影響。
大數(shù)據(jù)方面核心技術(shù)有哪些？
大數(shù)據(jù)技術(shù)的體系龐大且復(fù)雜，基礎(chǔ)的技術(shù)包含數(shù)據(jù)的采集、數(shù)據(jù)預(yù)處理、分布式存儲(chǔ)、NoSQL數(shù)據(jù)庫(kù)、數(shù)據(jù)倉(cāng)庫(kù)、機(jī)器學(xué)習(xí)、并行計(jì)算、可視化等各種技術(shù)范疇和不同的技術(shù)層面。首先給出一個(gè)通用化的大數(shù)據(jù)處理框架，主要分為下面幾個(gè)方面：數(shù)據(jù)采集與預(yù)處理、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)清洗、數(shù)據(jù)查詢(xún)分析和數(shù)據(jù)可視化。
數(shù)據(jù)采集與預(yù)處理
對(duì)于各種來(lái)源的數(shù)據(jù)，包括移動(dòng)互聯(lián)網(wǎng)數(shù)據(jù)、社交網(wǎng)絡(luò)的數(shù)據(jù)等，這些結(jié)構(gòu)化和非結(jié)構(gòu)化的海量數(shù)據(jù)是零散的，也就是所謂的數(shù)據(jù)孤島，此時(shí)的這些數(shù)據(jù)并沒(méi)有什么意義，數(shù)據(jù)采集就是將這些數(shù)據(jù)寫(xiě)入數(shù)據(jù)倉(cāng)庫(kù)中，把零散的數(shù)據(jù)整合在一起，對(duì)這些數(shù)據(jù)綜合起來(lái)進(jìn)行分析。數(shù)據(jù)采集包括文件日志的采集、數(shù)據(jù)庫(kù)日志的采集、關(guān)系型數(shù)據(jù)庫(kù)的接入和應(yīng)用程序的接入等。在數(shù)據(jù)量比較小的時(shí)候，可以寫(xiě)個(gè)定時(shí)的腳本將日志寫(xiě)入存儲(chǔ)系統(tǒng)，但隨著數(shù)據(jù)量的增長(zhǎng)，這些方法無(wú)法提供數(shù)據(jù)安全保障，并且運(yùn)維困難，需要更強(qiáng)壯的解決方案。
Flume NG
Flume NG作為實(shí)時(shí)日志收集系統(tǒng)，支持在日志系統(tǒng)中定制各類(lèi)數(shù)據(jù)發(fā)送方，用于收集數(shù)據(jù)，同時(shí)，對(duì)數(shù)據(jù)進(jìn)行簡(jiǎn)單處理，并寫(xiě)到各種數(shù)據(jù)接收方(比如文本，HDFS，Hbase等)。Flume NG采用的是三層架構(gòu)：Agent層，Collector層和Store層，每一層均可水平拓展。其中Agent包含Source，Channel和 Sink，source用來(lái)消費(fèi)(收集)數(shù)據(jù)源到channel組件中，channel作為中間臨時(shí)存儲(chǔ)，保存所有source的組件信息，sink從channel中讀取數(shù)據(jù)，讀取成功之后會(huì)刪除channel中的信息。
NDC
Logstash
Logstash是開(kāi)源的服務(wù)器端數(shù)據(jù)處理管道，能夠同時(shí)從多個(gè)來(lái)源采集數(shù)據(jù)、轉(zhuǎn)換數(shù)據(jù)，然后將數(shù)據(jù)發(fā)送到您最喜歡的 “存儲(chǔ)庫(kù)” 中。一般常用的存儲(chǔ)庫(kù)是Elasticsearch。Logstash 支持各種輸入選擇，可以在同一時(shí)間從眾多常用的數(shù)據(jù)來(lái)源捕捉事件，能夠以連續(xù)的流式傳輸方式，輕松地從您的日志、指標(biāo)、Web 應(yīng)用、數(shù)據(jù)存儲(chǔ)以及各種 AWS 服務(wù)采集數(shù)據(jù)。
Sqoop
Sqoop，用來(lái)將關(guān)系型數(shù)據(jù)庫(kù)和Hadoop中的數(shù)據(jù)進(jìn)行相互轉(zhuǎn)移的工具，可以將一個(gè)關(guān)系型數(shù)據(jù)庫(kù)(例如Mysql、Oracle)中的數(shù)據(jù)導(dǎo)入到Hadoop(例如HDFS、Hive、Hbase)中，也可以將Hadoop(例如HDFS、Hive、Hbase)中的數(shù)據(jù)導(dǎo)入到關(guān)系型數(shù)據(jù)庫(kù)(例如Mysql、Oracle)中。Sqoop 啟用了一個(gè) MapReduce 作業(yè)(極其容錯(cuò)的分布式并行計(jì)算)來(lái)執(zhí)行任務(wù)。Sqoop 的另一大優(yōu)勢(shì)是其傳輸大量結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)的過(guò)程是完全自動(dòng)化的。
流式計(jì)算
流式計(jì)算是行業(yè)研究的一個(gè)熱點(diǎn)，流式計(jì)算對(duì)多個(gè)高吞吐量的數(shù)據(jù)源進(jìn)行實(shí)時(shí)的清洗、聚合和分析，可以對(duì)存在于社交網(wǎng)站、新聞等的數(shù)據(jù)信息流進(jìn)行快速的處理并反饋，目前大數(shù)據(jù)流分析工具有很多，比如開(kāi)源的strom，spark streaming等。
Strom集群結(jié)構(gòu)是有一個(gè)主節(jié)點(diǎn)(nimbus)和多個(gè)工作節(jié)點(diǎn)(supervisor)組成的主從結(jié)構(gòu)，主節(jié)點(diǎn)通過(guò)配置靜態(tài)指定或者在運(yùn)行時(shí)動(dòng)態(tài)選舉，nimbus與supervisor都是Storm提供的后臺(tái)守護(hù)進(jìn)程，之間的通信是結(jié)合Zookeeper的狀態(tài)變更通知和監(jiān)控通知來(lái)處理。nimbus進(jìn)程的主要職責(zé)是管理、協(xié)調(diào)和監(jiān)控集群上運(yùn)行的topology(包括topology的發(fā)布、任務(wù)指派、事件處理時(shí)重新指派任務(wù)等)。supervisor進(jìn)程等待nimbus分配任務(wù)后生成并監(jiān)控worker(jvm進(jìn)程)執(zhí)行任務(wù)。supervisor與worker運(yùn)行在不同的jvm上，如果由supervisor啟動(dòng)的某個(gè)worker因?yàn)殄e(cuò)誤異常退出(或被kill掉)，supervisor會(huì)嘗試重新生成新的worker進(jìn)程。
Zookeeper
Zookeeper是一個(gè)分布式的，開(kāi)放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，提供數(shù)據(jù)同步服務(wù)。它的作用主要有配置管理、名字服務(wù)、分布式鎖和集群管理。配置管理指的是在一個(gè)地方修改了配置，那么對(duì)這個(gè)地方的配置感興趣的所有的都可以獲得變更，省去了手動(dòng)拷貝配置的繁瑣，還很好的保證了數(shù)據(jù)的可靠和一致性，同時(shí)它可以通過(guò)名字來(lái)獲取資源或者服務(wù)的地址等信息，可以監(jiān)控集群中機(jī)器的變化，實(shí)現(xiàn)了類(lèi)似于心跳機(jī)制的功能。
數(shù)據(jù)存儲(chǔ)
Hadoop作為一個(gè)開(kāi)源的框架，專(zhuān)為離線(xiàn)和大規(guī)模數(shù)據(jù)分析而設(shè)計(jì)，HDFS作為其核心的存儲(chǔ)引擎，已被廣泛用于數(shù)據(jù)存儲(chǔ)。
HBase
HBase，是一個(gè)分布式的、面向列的開(kāi)源數(shù)據(jù)庫(kù)，可以認(rèn)為是hdfs的封裝，本質(zhì)是數(shù)據(jù)存儲(chǔ)、NoSQL數(shù)據(jù)庫(kù)。HBase是一種Key/Value系統(tǒng)，部署在hdfs上，克服了hdfs在隨機(jī)讀寫(xiě)這個(gè)方面的缺點(diǎn)，與hadoop一樣，Hbase目標(biāo)主要依靠橫向擴(kuò)展，通過(guò)不斷增加廉價(jià)的商用服務(wù)器，來(lái)增加計(jì)算和存儲(chǔ)能力。
Phoenix
Phoenix，相當(dāng)于一個(gè)Java中間件，幫助開(kāi)發(fā)工程師能夠像使用JDBC訪(fǎng)問(wèn)關(guān)系型數(shù)據(jù)庫(kù)一樣訪(fǎng)問(wèn)NoSQL數(shù)據(jù)庫(kù)HBase。
Yarn
Yarn是一種Hadoop資源管理器，可為上層應(yīng)用提供統(tǒng)一的資源管理和調(diào)度，它的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來(lái)了巨大好處。Yarn由下面的幾大組件構(gòu)成：一個(gè)全局的資源管理器ResourceManager、ResourceManager的每個(gè)節(jié)點(diǎn)代理NodeManager、表示每個(gè)應(yīng)用的Application以及每一個(gè)ApplicationMaster擁有多個(gè)Container在NodeManager上運(yùn)行。
Mesos
Mesos是一款開(kāi)源的集群管理軟件，支持Hadoop、ElasticSearch、Spark、Storm 和Kafka等應(yīng)用架構(gòu)。
Redis
Redis是一種速度非?？斓姆顷P(guān)系數(shù)據(jù)庫(kù)，可以存儲(chǔ)鍵與5種不同類(lèi)型的值之間的映射，可以將存儲(chǔ)在內(nèi)存的鍵值對(duì)數(shù)據(jù)持久化到硬盤(pán)中，使用復(fù)制特性來(lái)擴(kuò)展性能，還可以使用客戶(hù)端分片來(lái)擴(kuò)展寫(xiě)性能。
Atlas
Atlas是一個(gè)位于應(yīng)用程序與MySQL之間的中間件。在后端DB看來(lái)，Atlas相當(dāng)于連接它的客戶(hù)端，在前端應(yīng)用看來(lái)，Atlas相當(dāng)于一個(gè)DB。Atlas作為服務(wù)端與應(yīng)用程序通訊，它實(shí)現(xiàn)了MySQL的客戶(hù)端和服務(wù)端協(xié)議，同時(shí)作為客戶(hù)端與MySQL通訊。它對(duì)應(yīng)用程序屏蔽了DB的細(xì)節(jié)，同時(shí)為了降低MySQL負(fù)擔(dān)，它還維護(hù)了連接池。Atlas啟動(dòng)后會(huì)創(chuàng)建多個(gè)線(xiàn)程，其中一個(gè)為主線(xiàn)程，其余為工作線(xiàn)程。主線(xiàn)程負(fù)責(zé)監(jiān)聽(tīng)所有的客戶(hù)端連接請(qǐng)求，工作線(xiàn)程只監(jiān)聽(tīng)主線(xiàn)程的命令請(qǐng)求。
Kudu
Kudu是圍繞Hadoop生態(tài)圈建立的存儲(chǔ)引擎，Kudu擁有和Hadoop生態(tài)圈共同的設(shè)計(jì)理念，它運(yùn)行在普通的服務(wù)器上、可分布式規(guī)模化部署、并且滿(mǎn)足工業(yè)界的高可用要求。其設(shè)計(jì)理念為fast analytics on fast data。作為一個(gè)開(kāi)源的存儲(chǔ)引擎，可以同時(shí)提供低延遲的隨機(jī)讀寫(xiě)和高效的數(shù)據(jù)分析能力。Kudu不但提供了行級(jí)的插入、更新、刪除API，同時(shí)也提供了接近Parquet性能的批量掃描操作。使用同一份存儲(chǔ)，既可以進(jìn)行隨機(jī)讀寫(xiě)，也可以滿(mǎn)足數(shù)據(jù)分析的要求。Kudu的應(yīng)用場(chǎng)景很廣泛，比如可以進(jìn)行實(shí)時(shí)的數(shù)據(jù)分析，用于數(shù)據(jù)可能會(huì)存在變化的時(shí)序數(shù)據(jù)應(yīng)用等。
在數(shù)據(jù)存儲(chǔ)過(guò)程中，涉及到的數(shù)據(jù)表都是成千上百列，包含各種復(fù)雜的Query，推薦使用列式存儲(chǔ)方法，比如parquent,ORC等對(duì)數(shù)據(jù)進(jìn)行壓縮。Parquet 可以支持靈活的壓縮選項(xiàng)，顯著減少磁盤(pán)上的存儲(chǔ)。
數(shù)據(jù)清洗
MapReduce作為Hadoop的查詢(xún)引擎，用于大規(guī)模數(shù)據(jù)集的并行計(jì)算，”Map(映射)”和”Reduce(歸約)”，是它的主要思想。它極大的方便了編程人員在不會(huì)分布式并行編程的情況下，將自己的程序運(yùn)行在分布式系統(tǒng)中。
隨著業(yè)務(wù)數(shù)據(jù)量的增多，需要進(jìn)行訓(xùn)練和清洗的數(shù)據(jù)會(huì)變得越來(lái)越復(fù)雜，這個(gè)時(shí)候就需要任務(wù)調(diào)度系統(tǒng)，比如oozie或者azkaban，對(duì)關(guān)鍵任務(wù)進(jìn)行調(diào)度和監(jiān)控。
Oozie
Oozie是用于Hadoop平臺(tái)的一種工作流調(diào)度引擎，提供了RESTful API接口來(lái)接受用戶(hù)的提交請(qǐng)求(提交工作流作業(yè))，當(dāng)提交了workflow后，由工作流引擎負(fù)責(zé)workflow的執(zhí)行以及狀態(tài)的轉(zhuǎn)換。用戶(hù)在HDFS上部署好作業(yè)(MR作業(yè))，然后向Oozie提交Workflow，Oozie以異步方式將作業(yè)(MR作業(yè))提交給Hadoop。這也是為什么當(dāng)調(diào)用Oozie 的RESTful接口提交作業(yè)之后能立即返回一個(gè)JobId的原因，用戶(hù)程序不必等待作業(yè)執(zhí)行完成(因?yàn)橛行┐笞鳂I(yè)可能會(huì)執(zhí)行很久(幾個(gè)小時(shí)甚至幾天))。Oozie在后臺(tái)以異步方式，再將workflow對(duì)應(yīng)的Action提交給hadoop執(zhí)行。
Azkaban
Azkaban也是一種工作流的控制引擎，可以用來(lái)解決有多個(gè)hadoop或者spark等離線(xiàn)計(jì)算任務(wù)之間的依賴(lài)關(guān)系問(wèn)題。azkaban主要是由三部分構(gòu)成：Relational Database，Azkaban Web Server和Azkaban Executor Server。azkaban將大多數(shù)的狀態(tài)信息都保存在MySQL中，Azkaban Web Server提供了Web UI，是azkaban主要的管理者，包括project的管理、認(rèn)證、調(diào)度以及對(duì)工作流執(zhí)行過(guò)程中的監(jiān)控等;Azkaban Executor Server用來(lái)調(diào)度工作流和任務(wù)，記錄工作流或者任務(wù)的日志。
流計(jì)算任務(wù)的處理平臺(tái)Sloth，是網(wǎng)易首個(gè)自研流計(jì)算平臺(tái)，旨在解決公司內(nèi)各產(chǎn)品日益增長(zhǎng)的流計(jì)算需求。作為一個(gè)計(jì)算服務(wù)平臺(tái)，其特點(diǎn)是易用、實(shí)時(shí)、可靠，為用戶(hù)節(jié)省技術(shù)方面(開(kāi)發(fā)、運(yùn)維)的投入，幫助用戶(hù)專(zhuān)注于解決產(chǎn)品本身的流計(jì)算需求
數(shù)據(jù)查詢(xún)分析
Hive
Hive的核心工作就是把SQL語(yǔ)句翻譯成MR程序，可以將結(jié)構(gòu)化的數(shù)據(jù)映射為一張數(shù)據(jù)庫(kù)表，并提供 HQL(Hive SQL)查詢(xún)功能。Hive本身不存儲(chǔ)和計(jì)算數(shù)據(jù)，它完全依賴(lài)于HDFS和MapReduce?？梢詫ive理解為一個(gè)客戶(hù)端工具，將SQL操作轉(zhuǎn)換為相應(yīng)的MapReduce jobs，然后在hadoop上面運(yùn)行。Hive支持標(biāo)準(zhǔn)的SQL語(yǔ)法，免去了用戶(hù)編寫(xiě)MapReduce程序的過(guò)程，它的出現(xiàn)可以讓那些精通SQL技能、但是不熟悉MapReduce 、編程能力較弱與不擅長(zhǎng)Java語(yǔ)言的用戶(hù)能夠在HDFS大規(guī)模數(shù)據(jù)集上很方便地利用SQL 語(yǔ)言查詢(xún)、匯總、分析數(shù)據(jù)。
Hive是為大數(shù)據(jù)批量處理而生的，Hive的出現(xiàn)解決了傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)(MySql、Oracle)在大數(shù)據(jù)處理上的瓶頸 。Hive 將執(zhí)行計(jì)劃分成map-shuffle-reduce-map-shuffle-reduce…的模型。如果一個(gè)Query會(huì)被編譯成多輪MapReduce，則會(huì)有更多的寫(xiě)中間結(jié)果。由于MapReduce執(zhí)行框架本身的特點(diǎn)，過(guò)多的中間過(guò)程會(huì)增加整個(gè)Query的執(zhí)行時(shí)間。在Hive的運(yùn)行過(guò)程中，用戶(hù)只需要?jiǎng)?chuàng)建表，導(dǎo)入數(shù)據(jù)，編寫(xiě)SQL分析語(yǔ)句即可。剩下的過(guò)程由Hive框架自動(dòng)的完成。
Impala
Impala是對(duì)Hive的一個(gè)補(bǔ)充，可以實(shí)現(xiàn)高效的SQL查詢(xún)。使用Impala來(lái)實(shí)現(xiàn)SQL on Hadoop，用來(lái)進(jìn)行大數(shù)據(jù)實(shí)時(shí)查詢(xún)分析。通過(guò)熟悉的傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)的SQL風(fēng)格來(lái)操作大數(shù)據(jù)，同時(shí)數(shù)據(jù)也是可以存儲(chǔ)到HDFS和HBase中的。Impala沒(méi)有再使用緩慢的Hive+MapReduce批處理，而是通過(guò)使用與商用并行關(guān)系數(shù)據(jù)庫(kù)中類(lèi)似的分布式查詢(xún)引擎(由Query Planner、Query Coordinator和Query Exec Engine三部分組成)，可以直接從HDFS或HBase中用SELECT、JOIN和統(tǒng)計(jì)函數(shù)查詢(xún)數(shù)據(jù)，從而大大降低了延遲。Impala將整個(gè)查詢(xún)分成一執(zhí)行計(jì)劃樹(shù)，而不是一連串的MapReduce任務(wù)，相比Hive沒(méi)了MapReduce啟動(dòng)時(shí)間。
Hive 適合于長(zhǎng)時(shí)間的批處理查詢(xún)分析，而Impala適合于實(shí)時(shí)交互式SQL查詢(xún)，Impala給數(shù)據(jù)人員提供了快速實(shí)驗(yàn)，驗(yàn)證想法的大數(shù)據(jù)分析工具，可以先使用Hive進(jìn)行數(shù)據(jù)轉(zhuǎn)換處理，之后使用Impala在Hive處理好后的數(shù)據(jù)集上進(jìn)行快速的數(shù)據(jù)分析。總的來(lái)說(shuō)：Impala把執(zhí)行計(jì)劃表現(xiàn)為一棵完整的執(zhí)行計(jì)劃樹(shù)，可以更自然地分發(fā)執(zhí)行計(jì)劃到各個(gè)Impalad執(zhí)行查詢(xún)，而不用像Hive那樣把它組合成管道型的map-reduce模式，以此保證Impala有更好的并發(fā)性和避免不必要的中間sort與shuffle。但是Impala不支持UDF，能處理的問(wèn)題有一定的限制。
Spark
Spark擁有Hadoop MapReduce所具有的特點(diǎn)，它將Job中間輸出結(jié)果保存在內(nèi)存中，從而不需要讀取HDFS。Spark 啟用了內(nèi)存分布數(shù)據(jù)集，除了能夠提供交互式查詢(xún)外，它還可以?xún)?yōu)化迭代工作負(fù)載。Spark 是在 Scala 語(yǔ)言中實(shí)現(xiàn)的，它將 Scala 用作其應(yīng)用程序框架。與 Hadoop 不同，Spark 和 Scala 能夠緊密集成，其中的 Scala 可以像操作本地集合對(duì)象一樣輕松地操作分布式數(shù)據(jù)集。
Nutch
Nutch 是一個(gè)開(kāi)源Java 實(shí)現(xiàn)的搜索引擎。它提供了我們運(yùn)行自己的搜索引擎所需的全部工具，包括全文搜索和Web爬蟲(chóng)。
Solr
Solr用Java編寫(xiě)、運(yùn)行在Servlet容器(如Apache Tomcat或Jetty)的一個(gè)獨(dú)立的企業(yè)級(jí)搜索應(yīng)用的全文搜索服務(wù)器。它對(duì)外提供類(lèi)似于Web-service的API接口，用戶(hù)可以通過(guò)http請(qǐng)求，向搜索引擎服務(wù)器提交一定格式的XML文件，生成索引;也可以通過(guò)Http Get操作提出查找請(qǐng)求，并得到XML格式的返回結(jié)果。
Elasticsearch
Elasticsearch是一個(gè)開(kāi)源的全文搜索引擎，基于Lucene的搜索服務(wù)器，可以快速的儲(chǔ)存、搜索和分析海量的數(shù)據(jù)。設(shè)計(jì)用于云計(jì)算中，能夠達(dá)到實(shí)時(shí)搜索，穩(wěn)定，可靠，快速，安裝使用方便。
還涉及到一些機(jī)器學(xué)習(xí)語(yǔ)言，比如，Mahout主要目標(biāo)是創(chuàng)建一些可伸縮的機(jī)器學(xué)習(xí)算法，供開(kāi)發(fā)人員在Apache的許可下免費(fèi)使用;深度學(xué)習(xí)框架Caffe以及使用數(shù)據(jù)流圖進(jìn)行數(shù)值計(jì)算的開(kāi)源軟件庫(kù)TensorFlow等，常用的機(jī)器學(xué)習(xí)算法比如，貝葉斯、邏輯回歸、決策樹(shù)、神經(jīng)網(wǎng)絡(luò)、協(xié)同過(guò)濾等。
數(shù)據(jù)可視化
對(duì)接一些BI平臺(tái)，將分析得到的數(shù)據(jù)進(jìn)行可視化，用于指導(dǎo)決策服務(wù)。主流的BI平臺(tái)比如，國(guó)外的敏捷BI Tableau、Qlikview、PowrerBI等，國(guó)內(nèi)的SmallBI和新興的網(wǎng)易有數(shù)等。
在上面的每一個(gè)階段，保障數(shù)據(jù)的安全是不可忽視的問(wèn)題。
基于網(wǎng)絡(luò)身份認(rèn)證的協(xié)議Kerberos，用來(lái)在非安全網(wǎng)絡(luò)中，對(duì)個(gè)人通信以安全的手段進(jìn)行身份認(rèn)證，它允許某實(shí)體在非安全網(wǎng)絡(luò)環(huán)境下通信，向另一個(gè)實(shí)體以一種安全的方式證明自己的身份。
控制權(quán)限的ranger是一個(gè)Hadoop集群權(quán)限框架，提供操作、監(jiān)控、管理復(fù)雜的數(shù)據(jù)權(quán)限，它提供一個(gè)集中的管理機(jī)制，管理基于yarn的Hadoop生態(tài)圈的所有數(shù)據(jù)權(quán)限?？梢詫?duì)Hadoop生態(tài)的組件如Hive，Hbase進(jìn)行細(xì)粒度的數(shù)據(jù)訪(fǎng)問(wèn)控制。通過(guò)操作Ranger控制臺(tái)，管理員可以輕松的通過(guò)配置策略來(lái)控制用戶(hù)訪(fǎng)問(wèn)HDFS文件夾、HDFS文件、數(shù)據(jù)庫(kù)、表、字段權(quán)限。這些策略可以為不同的用戶(hù)和組來(lái)設(shè)置，同時(shí)權(quán)限可與hadoop無(wú)縫對(duì)接。
簡(jiǎn)單說(shuō)有三大核心技術(shù)：拿數(shù)據(jù)，算數(shù)據(jù)，賣(mài)數(shù)據(jù)。
在大數(shù)據(jù)時(shí)代，“多種架構(gòu)支持多類(lèi)應(yīng)用”成為數(shù)據(jù)庫(kù)行業(yè)應(yīng)對(duì)大數(shù)據(jù)的基本思路，數(shù)據(jù)庫(kù)行業(yè)出現(xiàn)互為補(bǔ)充的三大陣營(yíng)，適用于事務(wù)處理應(yīng)用的OldSQL、適用于數(shù)據(jù)分析應(yīng)用的NewSQL和適用于互聯(lián)網(wǎng)應(yīng)用的NoSQL。但在一些復(fù)雜的應(yīng)用場(chǎng)景中，單一數(shù)據(jù)庫(kù)架構(gòu)都不能完全滿(mǎn)足應(yīng)用場(chǎng)景對(duì)海量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)管理、復(fù)雜分析、關(guān)聯(lián)查詢(xún)、實(shí)時(shí)性處理和控制建設(shè)成本等多方面的需要，因此不同架構(gòu)數(shù)據(jù)庫(kù)混合部署應(yīng)用成為滿(mǎn)足復(fù)雜應(yīng)用的必然選擇。不同架構(gòu)數(shù)據(jù)庫(kù)混合使用的模式可以概括為：OldSQL+NewSQL、OldSQL+NoSQL、NewSQL+NoSQL三種主要模式。下面通過(guò)三個(gè)案例對(duì)不同架構(gòu)數(shù)據(jù)庫(kù)的混合應(yīng)用部署進(jìn)行介紹。
OldSQL+NewSQL 在數(shù)據(jù)中心類(lèi)應(yīng)用中混合部署
采用OldSQL+NewSQL模式構(gòu)建數(shù)據(jù)中心，在充分發(fā)揮OldSQL數(shù)據(jù)庫(kù)的事務(wù)處理能力的同時(shí)，借助NewSQL在實(shí)時(shí)性、復(fù)雜分析、即席查詢(xún)等方面的獨(dú)特優(yōu)勢(shì)，以及面對(duì)海量數(shù)據(jù)時(shí)較強(qiáng)的擴(kuò)展能力，滿(mǎn)足數(shù)據(jù)中心對(duì)當(dāng)前“熱”數(shù)據(jù)事務(wù)型處理和海量歷史“冷”數(shù)據(jù)分析兩方面的需求。OldSQL+NewSQL模式在數(shù)據(jù)中心類(lèi)應(yīng)用中的互補(bǔ)作用體現(xiàn)在，OldSQL彌補(bǔ)了NewSQL不適合事務(wù)處理的不足，NewSQL彌補(bǔ)了OldSQL在海量數(shù)據(jù)存儲(chǔ)能力和處理性能方面的缺陷。
商業(yè)銀行數(shù)據(jù)中心采用OldSQL+NewSQL混合部署方式搭建，OldSQL數(shù)據(jù)庫(kù)滿(mǎn)足各業(yè)務(wù)系統(tǒng)數(shù)據(jù)的歸檔備份和事務(wù)型應(yīng)用，NewSQL MPP數(shù)據(jù)庫(kù)集群對(duì)即席查詢(xún)、多維分析等應(yīng)用提供高性能支持，并且通過(guò)MPP集群架構(gòu)實(shí)現(xiàn)應(yīng)對(duì)海量數(shù)據(jù)存儲(chǔ)的擴(kuò)展能力。
商業(yè)銀行數(shù)據(jù)中心存儲(chǔ)架構(gòu)
與傳統(tǒng)的OldSQL模式相比，商業(yè)銀行數(shù)據(jù)中心采用OldSQL+NewSQL混合搭建模式，數(shù)據(jù)加載性能提升3倍以上，即席查詢(xún)和統(tǒng)計(jì)分析性能提升6倍以上。NewSQL MPP的高可擴(kuò)展性能夠應(yīng)對(duì)新的業(yè)務(wù)需求，可隨著數(shù)據(jù)量的增長(zhǎng)采用集群方式構(gòu)建存儲(chǔ)容量更大的數(shù)據(jù)中心。
OldSQL+NoSQL 在互聯(lián)網(wǎng)大數(shù)據(jù)應(yīng)用中混合部署
在互聯(lián)網(wǎng)大數(shù)據(jù)應(yīng)用中采用OldSQL+NoSQL混合模式，能夠很好的解決互聯(lián)網(wǎng)大數(shù)據(jù)應(yīng)用對(duì)海量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行存儲(chǔ)和快速處理的需求。在諸如大型電子商務(wù)平臺(tái)、大型SNS平臺(tái)等互聯(lián)網(wǎng)大數(shù)據(jù)應(yīng)用場(chǎng)景中，OldSQL在應(yīng)用中負(fù)責(zé)高價(jià)值密度結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)和事務(wù)型處理，NoSQL在應(yīng)用中負(fù)責(zé)存儲(chǔ)和處理海量非結(jié)構(gòu)化的數(shù)據(jù)和低價(jià)值密度結(jié)構(gòu)化數(shù)據(jù)。OldSQL+NoSQL模式在互聯(lián)網(wǎng)大數(shù)據(jù)應(yīng)用中的互補(bǔ)作用體現(xiàn)在，OldSQL彌補(bǔ)了NoSQL在ACID特性和復(fù)雜關(guān)聯(lián)運(yùn)算方面的不足，NoSQL彌補(bǔ)了OldSQL在海量數(shù)據(jù)存儲(chǔ)和非結(jié)構(gòu)化數(shù)據(jù)處理方面的缺陷。
數(shù)據(jù)魔方是淘寶網(wǎng)的一款數(shù)據(jù)產(chǎn)品，主要提供行業(yè)數(shù)據(jù)分析、店鋪數(shù)據(jù)分析。淘寶數(shù)據(jù)產(chǎn)品在存儲(chǔ)層采用OldSQL+NoSQL混合模式，由基于MySQL的分布式關(guān)系型數(shù)據(jù)庫(kù)集群MyFOX和基于HBase的NoSQL存儲(chǔ)集群Prom組成。由于OldSQL強(qiáng)大的語(yǔ)義和關(guān)系表達(dá)能力，在應(yīng)用中仍然占據(jù)著重要地位，目前存儲(chǔ)在MyFOX中的統(tǒng)計(jì)結(jié)果數(shù)據(jù)已經(jīng)達(dá)到10TB，占據(jù)著數(shù)據(jù)魔方總數(shù)據(jù)量的95%以上。另一方面，NoSQL作為SQL的有益補(bǔ)充，解決了OldSQL數(shù)據(jù)庫(kù)無(wú)法解決的全屬性選擇器等問(wèn)題。
淘寶海量數(shù)據(jù)產(chǎn)品技術(shù)架構(gòu)
基于OldSQL+NoSQL混合架構(gòu)的特點(diǎn)，數(shù)據(jù)魔方目前已經(jīng)能夠提供壓縮前80TB的數(shù)據(jù)存儲(chǔ)空間，支持每天4000萬(wàn)的查詢(xún)請(qǐng)求，平均響應(yīng)時(shí)間在28毫秒，足以滿(mǎn)足未來(lái)一段時(shí)間內(nèi)的業(yè)務(wù)增長(zhǎng)需求。
NewSQL+NoSQL 在行業(yè)大數(shù)據(jù)應(yīng)用中混合部署
行業(yè)大數(shù)據(jù)與互聯(lián)網(wǎng)大數(shù)據(jù)的區(qū)別在于行業(yè)大數(shù)據(jù)的價(jià)值密度更高，并且對(duì)結(jié)構(gòu)化數(shù)據(jù)的實(shí)時(shí)處理、復(fù)雜的多表關(guān)聯(lián)分析、即席查詢(xún)、數(shù)據(jù)強(qiáng)一致性等都比互聯(lián)網(wǎng)大數(shù)據(jù)有更高的要求。行業(yè)大數(shù)據(jù)應(yīng)用場(chǎng)景主要是分析類(lèi)應(yīng)用，如：電信、金融、政務(wù)、能源等行業(yè)的決策輔助、預(yù)測(cè)預(yù)警、統(tǒng)計(jì)分析、經(jīng)營(yíng)分析等。
在行業(yè)大數(shù)據(jù)應(yīng)用中采用NewSQL+NoSQL混合模式，充分利用NewSQL在結(jié)構(gòu)化數(shù)據(jù)分析處理方面的優(yōu)勢(shì)，以及NoSQL在非結(jié)構(gòu)數(shù)據(jù)處理方面的優(yōu)勢(shì)，實(shí)現(xiàn)NewSQL與NoSQL的功能互補(bǔ)，解決行業(yè)大數(shù)據(jù)應(yīng)用對(duì)高價(jià)值結(jié)構(gòu)化數(shù)據(jù)的實(shí)時(shí)處理、復(fù)雜的多表關(guān)聯(lián)分析、即席查詢(xún)、數(shù)據(jù)強(qiáng)一致性等要求，以及對(duì)海量非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)和精確查詢(xún)的要求。在應(yīng)用中，NewSQL承擔(dān)高價(jià)值密度結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)和分析處理工作，NoSQL承擔(dān)存儲(chǔ)和處理海量非結(jié)構(gòu)化數(shù)據(jù)和不需要關(guān)聯(lián)分析、Ad-hoc查詢(xún)較少的低價(jià)值密度結(jié)構(gòu)化數(shù)據(jù)的工作。
當(dāng)前電信運(yùn)營(yíng)商在集中化BI系統(tǒng)建設(shè)過(guò)程中面臨著數(shù)據(jù)規(guī)模大、數(shù)據(jù)處理類(lèi)型多等問(wèn)題，并且需要應(yīng)對(duì)大量的固定應(yīng)用，以及占統(tǒng)計(jì)總數(shù)80%以上的突發(fā)性臨時(shí)統(tǒng)計(jì)(ad-hoc)需求。在集中化BI系統(tǒng)的建設(shè)中采用NewSQL+NoSQL混搭的模式，充分利用NewSQL在復(fù)雜分析、即席查詢(xún)等方面處理性能的優(yōu)勢(shì)，及NoSQL在非結(jié)構(gòu)化數(shù)據(jù)處理和海量數(shù)據(jù)存儲(chǔ)方面的優(yōu)勢(shì)，實(shí)現(xiàn)高效低成本。
集中化BI系統(tǒng)數(shù)據(jù)存儲(chǔ)架構(gòu)
集中化BI系統(tǒng)按照數(shù)據(jù)類(lèi)型和處理方式的不同，將結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)分別存儲(chǔ)在不同的系統(tǒng)中：非結(jié)構(gòu)化數(shù)據(jù)在Hadoop平臺(tái)上存儲(chǔ)與處理;結(jié)構(gòu)化、不需要關(guān)聯(lián)分析、Ad-hoc查詢(xún)較少的數(shù)據(jù)保存在NoSQL數(shù)據(jù)庫(kù)或Hadoop平臺(tái);結(jié)構(gòu)化、需要關(guān)聯(lián)分析或經(jīng)常ad-hoc查詢(xún)的數(shù)據(jù)，保存在NewSQL MPP數(shù)據(jù)庫(kù)中，短期高價(jià)值數(shù)據(jù)放在高性能平臺(tái)，中長(zhǎng)期放在低成本產(chǎn)品中。
結(jié)語(yǔ)
當(dāng)前信息化應(yīng)用的多樣性、復(fù)雜性，以及三種數(shù)據(jù)庫(kù)架構(gòu)各自所具有的優(yōu)勢(shì)和局限性，造成任何一種架構(gòu)的數(shù)據(jù)庫(kù)都不能完全滿(mǎn)足應(yīng)用需求，因此不同架構(gòu)數(shù)據(jù)庫(kù)混合使用，從而彌補(bǔ)其他架構(gòu)的不足成為必然選擇。根據(jù)應(yīng)用場(chǎng)景采用不同架構(gòu)數(shù)據(jù)庫(kù)進(jìn)行組合搭配，充分發(fā)揮每種架構(gòu)數(shù)據(jù)庫(kù)的特點(diǎn)和優(yōu)勢(shì)，并且與其他架構(gòu)數(shù)據(jù)庫(kù)形成互補(bǔ)，完全涵蓋應(yīng)用需求，保證數(shù)據(jù)資源的最優(yōu)化利用，將成為未來(lái)一段時(shí)期內(nèi)信息化應(yīng)用主要采用的解決方式。
目前在國(guó)內(nèi)市場(chǎng)上，OldSQL主要為Oracle、IBM等國(guó)外數(shù)據(jù)庫(kù)廠商所壟斷，達(dá)夢(mèng)、金倉(cāng)等國(guó)產(chǎn)廠商仍處于追趕狀態(tài);南大通用憑借國(guó)產(chǎn)新型數(shù)據(jù)庫(kù)GBase 8a異軍突起，與EMC的Greenplum和HP的Vertica躋身NewSQL市場(chǎng)三強(qiáng);NoSQL方面用戶(hù)則大多采用Hadoop開(kāi)源方案。
一、大數(shù)據(jù)前景
大數(shù)據(jù)技術(shù)適應(yīng)現(xiàn)代社會(huì)的發(fā)展，從數(shù)據(jù)量巨大、結(jié)構(gòu)復(fù)雜、類(lèi)型眾多的數(shù)據(jù)中，快速獲取有價(jià)值的信息，被認(rèn)為是“未來(lái)的新石油”，在社會(huì)生產(chǎn)、流通、分配、消費(fèi)活動(dòng)以及經(jīng)濟(jì)運(yùn)行機(jī)制等方面發(fā)揮著重要的作用。
大數(shù)據(jù)發(fā)展呈全球化的趨勢(shì)，大數(shù)據(jù)前景大好，是后面至少10年的熱點(diǎn)。任何系統(tǒng)、任何公司的核心都是數(shù)據(jù)?，F(xiàn)在社會(huì)的大數(shù)據(jù)公司主要可以分為三大類(lèi)，分別是技術(shù)型、創(chuàng)新型、數(shù)據(jù)型這三種，不論是哪一種類(lèi)都是現(xiàn)代社會(huì)不可獲缺的?，F(xiàn)在流行hadoop，流行內(nèi)存計(jì)算、內(nèi)存數(shù)據(jù)網(wǎng)格等等，以后還會(huì)有更多的概念和技術(shù)，但本質(zhì)都是為大數(shù)據(jù)服務(wù)。數(shù)據(jù)TB、PB、EB、ZB、YB的飆升，將誕生系列新的技術(shù)和產(chǎn)業(yè)，大數(shù)據(jù)從業(yè)人員將是最有發(fā)展前景的職業(yè)。
二、大數(shù)據(jù)薪資待遇
目前出現(xiàn)在各類(lèi)招聘平臺(tái)上與數(shù)據(jù)分析相關(guān)的招聘需求比去年同期相比，增長(zhǎng)率高達(dá)67%；大數(shù)據(jù)相關(guān)高級(jí)職位的薪酬與其他同類(lèi)技術(shù)職位相比平均高出43%以上。各行各業(yè)對(duì)大數(shù)據(jù)人才的需求，以及技術(shù)從業(yè)者希望躋身大數(shù)據(jù)高級(jí)人才的需求變得越來(lái)越強(qiáng)烈。
三、零基礎(chǔ)自學(xué)大數(shù)據(jù)
想要成為合格的大數(shù)據(jù)分析師，就需要精通SQL語(yǔ)句并對(duì)redis，mongodb等nosql數(shù)據(jù)庫(kù)有一定經(jīng)驗(yàn);.熟練使用數(shù)理統(tǒng)計(jì)、數(shù)據(jù)分析、數(shù)據(jù)挖掘工具軟件(SAS、R、python語(yǔ)言等的一種或多種)，能熟練使用SQL讀取數(shù)據(jù)和熟練操作excel。
其次大數(shù)據(jù)分析師還需要精通java或scala語(yǔ)言，精通spark，hadoop，kafka，hive，hbase，zookeeper等大數(shù)據(jù)相關(guān)技術(shù)，會(huì)用邏輯回歸、神經(jīng)網(wǎng)絡(luò)、決策樹(shù)、聚類(lèi)等的一種或多種建模方法;熟悉Linux操作系統(tǒng)，了解數(shù)據(jù)結(jié)構(gòu)和算法等等。
想要成為大數(shù)據(jù)分析師需要掌握的技術(shù)不在少數(shù)，并且學(xué)習(xí)難度也是有的。自學(xué)的話(huà)，成功率會(huì)很低，不少自學(xué)的朋友，越來(lái)越學(xué)不會(huì)，而最終放棄學(xué)習(xí)，并且學(xué)習(xí)過(guò)程會(huì)比較辛苦。而且自學(xué)會(huì)缺少實(shí)戰(zhàn)項(xiàng)目，大數(shù)據(jù)分析不是紙上談兵類(lèi)型的技術(shù)。
參加大數(shù)據(jù)培訓(xùn)這種方式是被絕大部分人所選擇的，因?yàn)閰⒓哟髷?shù)據(jù)培訓(xùn)跟著老師學(xué)習(xí)的話(huà)，不僅能學(xué)到更多的知識(shí)還提高了學(xué)習(xí)的效率，就業(yè)有保障。
零基礎(chǔ)能自學(xué)大數(shù)據(jù)分析嗎?能是能，但是你能不能學(xué)會(huì)，學(xué)多久會(huì)放棄就說(shuō)不準(zhǔn)了，因此對(duì)于想要學(xué)習(xí)大數(shù)據(jù)的小伙伴小編還是建議大家參加大數(shù)據(jù)培訓(xùn)學(xué)習(xí)比較好。
全球最具影響力的大數(shù)據(jù)企業(yè)排行榜
目前全球大數(shù)據(jù)企業(yè)主要分為兩大陣營(yíng)。一部分屬于單純以大數(shù)據(jù)技術(shù)為核心的新興企業(yè)，希望為市場(chǎng)帶來(lái)創(chuàng)新方案并推動(dòng)技術(shù)發(fā)展。另有一些原本打理數(shù)據(jù)庫(kù)/數(shù)據(jù)倉(cāng)儲(chǔ)業(yè)務(wù)的老牌廠商，他們打算利用自身優(yōu)勢(shì)地位沖擊大數(shù)據(jù)領(lǐng)域，將現(xiàn)有安裝基礎(chǔ)及產(chǎn)品線(xiàn)口碑推廣到新一輪技術(shù)浪潮當(dāng)中。下面我們就一起來(lái)看今天的十五家大數(shù)據(jù)企業(yè)名單，其中十家早已名滿(mǎn)天下、另外五家則屬初來(lái)乍到。
1、IBM
根據(jù)Wikibon發(fā)布的報(bào)告，作為2012年大數(shù)據(jù)業(yè)務(wù)營(yíng)收成績(jī)最好的公司，IBM過(guò)去一年從大數(shù)據(jù)相關(guān)產(chǎn)品及服務(wù)中獲得了13億美元收益。其具體產(chǎn)品包括服務(wù)器與存儲(chǔ)硬件、數(shù)據(jù)庫(kù)軟件、分析應(yīng)用程序以及相關(guān)服務(wù)等。在IBM圍繞大數(shù)據(jù)開(kāi)發(fā)出的產(chǎn)品中，DB2、Informix與InfoSphere數(shù)據(jù)庫(kù)平臺(tái)、Cognos與SPSS分析應(yīng)用可謂最為知名。IBM同時(shí)也為Hadoop開(kāi)源數(shù)據(jù)分析平臺(tái)提供支持。
2、惠普
惠普在2012年獲得的大數(shù)據(jù)營(yíng)收名列第二，總值為6.64億美元。這家供應(yīng)商還提供與之相關(guān)的硬件、軟件以及服務(wù)，其最為知名的方案當(dāng)數(shù)Vertica分析平臺(tái)。
3、Teradata
Teradata在2012年獲得全球第三大大數(shù)據(jù)廠商頭銜，其營(yíng)收總額達(dá)4.35億美元。Teradata憑借自家硬件平臺(tái)、數(shù)據(jù)庫(kù)以及分析軟件而聲名遠(yuǎn)播。它同時(shí)針對(duì)零售及運(yùn)輸行業(yè)推出了專(zhuān)門(mén)的分析工具。
4、甲骨文
盡管在大家眼中，甲骨文一直以其冠絕群雄的數(shù)據(jù)庫(kù)產(chǎn)品聞名，但事實(shí)上他們也是大數(shù)據(jù)領(lǐng)域的主要競(jìng)逐者之一。其甲骨文大數(shù)據(jù)設(shè)備將英特爾服務(wù)器、Cloudera Hadoop發(fā)行版以及甲骨文的NoSQL數(shù)據(jù)庫(kù)結(jié)合到了一起。2012年甲骨文名列大數(shù)據(jù)企業(yè)榜單第五位，營(yíng)收總額為4.15億美元。
5、SAP
SAP推出了一系列分析工具，但其中知名度最高的當(dāng)數(shù)其HANA內(nèi)存內(nèi)數(shù)據(jù)庫(kù)。2012年該公司在大數(shù)據(jù)企業(yè)競(jìng)爭(zhēng)中位居第六，營(yíng)收總額為3.68億美元。
6、EMC
EMC一方面幫助客戶(hù)保存并分析大數(shù)據(jù)，另外也充當(dāng)著大數(shù)據(jù)分析智囊“營(yíng)銷(xiāo)科學(xué)實(shí)驗(yàn)室”的所在地——這家實(shí)驗(yàn)室專(zhuān)門(mén)分析營(yíng)銷(xiāo)類(lèi)數(shù)據(jù)。EMC推出的最新爆炸性消息是與VMware及通用電氣一道支持Pivotal公司。Pivotal將對(duì)Hadoop與EMC的Greenplum數(shù)據(jù)庫(kù)與HAWQ查詢(xún)工具進(jìn)行整合。EMC在2012年的大數(shù)據(jù)企業(yè)排行榜中位列第七，營(yíng)收總額為3.36億美元。
7、Amazon
Amazon向來(lái)以企業(yè)云平臺(tái)聞名于世，但同時(shí)也推出過(guò)一系列大數(shù)據(jù)產(chǎn)品，其中包括基于Hadoop的Elastic MapReduce、DynamoDB大數(shù)據(jù)數(shù)據(jù)庫(kù)以及能夠與Amazon Web Services順利協(xié)作的Redshift規(guī)?；⑿袛?shù)據(jù)倉(cāng)儲(chǔ)方案。
8、微軟
微軟的大數(shù)據(jù)發(fā)展戰(zhàn)略可謂雄心勃勃，包括與Hortonworks建立合作關(guān)系、建立一家大數(shù)據(jù)新興企業(yè)以及推出基于Hortonworks數(shù)據(jù)平臺(tái)的HDInsights工具。微軟的SQL Server數(shù)據(jù)庫(kù)也頗具知名度，且于2012年的大數(shù)據(jù)企業(yè)比拼之中位列第九，營(yíng)收總額為1.96億美元。
9、谷歌
谷歌公司推出的大數(shù)據(jù)產(chǎn)品包括BigQuery——一款基于云的大數(shù)據(jù)分析平臺(tái)。該公司在過(guò)去一年中拿下3600萬(wàn)美元大數(shù)據(jù)營(yíng)收。
10、VMware
VMware向來(lái)以云計(jì)算及虛擬化解決方案著稱(chēng)，不過(guò)近來(lái)也開(kāi)始逐步踏入大數(shù)據(jù)領(lǐng)域。今年六月虛擬巨頭公布的VMware vSphere大數(shù)據(jù)擴(kuò)展版就很說(shuō)明問(wèn)題，這套方案使得vSphere能夠控制Hadoop部署并幫助企業(yè)用戶(hù)簡(jiǎn)化大數(shù)據(jù)項(xiàng)目啟動(dòng)流程。VMware在過(guò)去一年中獲得3200萬(wàn)美元大數(shù)據(jù)營(yíng)收，幾乎與谷歌公司持平。
11、業(yè)界新生代：Cloudera
相信目前已經(jīng)沒(méi)人敢在列舉頂級(jí)大數(shù)據(jù)供應(yīng)商時(shí)漏掉Cloudera。這家新興企業(yè)獲得1.41億美元風(fēng)險(xiǎn)投資，支持陣營(yíng)中甚至包括谷歌、Facebook、甲骨文以及雅虎等在大數(shù)據(jù)領(lǐng)域赫赫有名的老將。該公司于2008年首次為企業(yè)客戶(hù)帶來(lái)Apache Hadoop平臺(tái)。
12、Hortonworks
Hortonworks是另一家Hadoop供應(yīng)商，并在2011年從雅虎公司分離出來(lái)之后獲得超過(guò)7000萬(wàn)美元的風(fēng)險(xiǎn)投資支持。它在發(fā)展中將矛頭直指Cloudera，這位年輕選手背后則站著微軟、Rackspace、紅帽、Teradata等多家戰(zhàn)略合作伙伴。
13、Splunk
根據(jù)WIkibon的統(tǒng)計(jì)，Splunk是目前純大數(shù)據(jù)供應(yīng)商中占據(jù)市場(chǎng)份額最大的企業(yè)，2012年全年?duì)I收總額達(dá)1.86億美元。該公司主要關(guān)注機(jī)器數(shù)據(jù)分析業(yè)務(wù)。
14、10Gen
10Gen最具影響力的得意佳作要數(shù)其開(kāi)源MongoDB——一款業(yè)界領(lǐng)先的NoSQL數(shù)據(jù)庫(kù)。該公司的戰(zhàn)略投資伙伴包括英特爾、紅帽以及In-Q-Tel。10Gen去年在純Hadoop及NoSQL業(yè)務(wù)企業(yè)中名列第三，營(yíng)收總額為3600萬(wàn)美元。
15、MapR
大家想必聽(tīng)說(shuō)過(guò)MapR推出的NoSQL數(shù)據(jù)庫(kù)M7，這家公司與Amazon的云平臺(tái)及谷歌計(jì)算引擎達(dá)成了協(xié)作關(guān)系。去年MapR在純Hadoop與NoSQL業(yè)務(wù)企業(yè)中位列第四，營(yíng)收總額為2300萬(wàn)美元。
以上是小編為大家分享的關(guān)于全球最具影響力的大數(shù)據(jù)企業(yè)排行榜的相關(guān)內(nèi)容，更多信息可以關(guān)注環(huán)球青藤分享更多干貨
大數(shù)據(jù)技術(shù)專(zhuān)業(yè)屬于交叉學(xué)科：以統(tǒng)計(jì)學(xué)、數(shù)學(xué)、計(jì)算機(jī)為三大支撐性學(xué)科；生物、醫(yī)學(xué)、環(huán)境科學(xué)、經(jīng)濟(jì)學(xué)、社會(huì)學(xué)、管理學(xué)為應(yīng)用拓展性學(xué)科。
此外還需學(xué)習(xí)數(shù)據(jù)采集、分析、處理軟件，學(xué)習(xí)數(shù)學(xué)建模軟件及計(jì)算機(jī)編程語(yǔ)言等，知識(shí)結(jié)構(gòu)是二專(zhuān)多能復(fù)合的跨界人才(有專(zhuān)業(yè)知識(shí)、有數(shù)據(jù)思維)。
以中國(guó)人民大學(xué)為例：
基礎(chǔ)課程：數(shù)學(xué)分析、高等代數(shù)、普通物理數(shù)學(xué)與信息科學(xué)概論、數(shù)據(jù)結(jié)構(gòu)、數(shù)據(jù)科學(xué)導(dǎo)論、程序設(shè)計(jì)導(dǎo)論、程序設(shè)計(jì)實(shí)踐。
必修課：離散數(shù)學(xué)、概率與統(tǒng)計(jì)、算法分析與設(shè)計(jì)、數(shù)據(jù)計(jì)算智能、數(shù)據(jù)庫(kù)系統(tǒng)概論、計(jì)算機(jī)系統(tǒng)基礎(chǔ)、并行體系結(jié)構(gòu)與編程、非結(jié)構(gòu)化大數(shù)據(jù)分析。
選修課：數(shù)據(jù)科學(xué)算法導(dǎo)論、數(shù)據(jù)科學(xué)專(zhuān)題、數(shù)據(jù)科學(xué)實(shí)踐、互聯(lián)網(wǎng)實(shí)用開(kāi)發(fā)技術(shù)、抽樣技術(shù)、統(tǒng)計(jì)學(xué)習(xí)、回歸分析、隨機(jī)過(guò)程。
大數(shù)據(jù)崗位：
1、大數(shù)據(jù)系統(tǒng)架構(gòu)師
大數(shù)據(jù)平臺(tái)搭建、系統(tǒng)設(shè)計(jì)、基礎(chǔ)設(shè)施。
技能：計(jì)算機(jī)體系結(jié)構(gòu)、網(wǎng)絡(luò)架構(gòu)、編程范式、文件系統(tǒng)、分布并行處理等。
2、大數(shù)據(jù)系統(tǒng)分析師
面向?qū)嶋H行業(yè)領(lǐng)域，利用大數(shù)據(jù)技術(shù)進(jìn)行數(shù)據(jù)安全生命周期管理、分析和應(yīng)用。
技能：人工智能、機(jī)器學(xué)習(xí)、數(shù)理統(tǒng)計(jì)、矩陣計(jì)算、優(yōu)化方法。
3、hadoop開(kāi)發(fā)工程師。
解決大數(shù)據(jù)存儲(chǔ)問(wèn)題。
4、數(shù)據(jù)分析師
不同行業(yè)中，專(zhuān)門(mén)從事行業(yè)數(shù)據(jù)搜集、整理、分析，并依據(jù)數(shù)據(jù)做出行業(yè)研究、評(píng)估和預(yù)測(cè)的專(zhuān)業(yè)人員。在工作中通過(guò)運(yùn)用工具，提取、分析、呈現(xiàn)數(shù)據(jù)，實(shí)現(xiàn)數(shù)據(jù)的商業(yè)意義。
5、數(shù)據(jù)挖掘工程師
做數(shù)據(jù)挖掘要從海量數(shù)據(jù)中發(fā)現(xiàn)規(guī)律，這就需要一定的數(shù)學(xué)知識(shí)，最基本的比如線(xiàn)性代數(shù)、高等代數(shù)、凸優(yōu)化、概率論等。經(jīng)常會(huì)用到的語(yǔ)言包括Python、Java、C或者C++，我自己用Python或者Java比較多。有時(shí)用MapReduce寫(xiě)程序，再用Hadoop或者Hyp來(lái)處理數(shù)據(jù)，如果用Python的話(huà)會(huì)和Spark相結(jié)合。
重慶分公司
重慶分公司
