這篇文章主要為大家展示了“Hadoop是什么意思”，內(nèi)容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“Hadoop是什么意思”這篇文章吧。

成都創(chuàng)新互聯(lián)公司IDC提供業(yè)務(wù):遂寧服務(wù)器托管,成都服務(wù)器租用,遂寧服務(wù)器托管,重慶服務(wù)器租用等四川省內(nèi)主機托管與主機租用業(yè)務(wù);數(shù)據(jù)中心含:雙線機房,BGP機房,電信機房,移動機房,聯(lián)通機房。

Hadoop是一個開發(fā)和運行處理大規(guī)模數(shù)據(jù)的軟件平臺,是Appach的一個用java語言實現(xiàn)開源軟件框架，實現(xiàn)在大量計算機組成的集群中對海量數(shù)據(jù)進行分布式計算.

Hadoop框架中最核心設(shè)計就是：HDFS和MapReduce.HDFS提供了海量數(shù)據(jù)的存儲,MapReduce提供了對數(shù)據(jù)的計算.

數(shù)據(jù)在Hadoop中處理的流程可以簡單的按照下圖來理解:數(shù)據(jù)通過Haddop的集群處理后得到結(jié)果.

HDFS:Hadoop Distributed File System,Hadoop的分布式文件系統(tǒng).
大文件被分成默認64M一塊的數(shù)據(jù)塊分布存儲在集群機器中.

如下圖中的文件 data1被分成3塊,這3塊以冗余鏡像的方式分布在不同的機器中.

MapReduce:Hadoop為每一個input split創(chuàng)建一個task調(diào)用Map計算，在此task中依次處理此split中的一個個記錄(record),map會將結(jié)果以key--value的形式輸出,hadoop負責(zé)按key值將map的輸出整理后作為Reduce的輸入,Reduce Task的輸出為整個job的輸出，保存在HDFS上.

Hadoop的集群主要由 NameNode,DataNode,Secondary NameNode,JobTracker,TaskTracker組成.

如下圖所示:

NameNode中記錄了文件是如何被拆分成block以及這些block都存儲到了那些DateNode節(jié)點.

NameNode同時保存了文件系統(tǒng)運行的狀態(tài)信息.

DataNode中存儲的是被拆分的blocks.

Secondary NameNode幫助NameNode收集文件系統(tǒng)運行的狀態(tài)信息.

JobTracker當(dāng)有任務(wù)提交到Hadoop集群的時候負責(zé)Job的運行,負責(zé)調(diào)度多個TaskTracker.

TaskTracker負責(zé)某一個map或者reduce任務(wù).

以上是“Hadoop是什么意思”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！