Hadoop是什么?Hadoop是一個開發(fā)和運行處理大規(guī)模數(shù)據(jù)的軟件平臺,是Appach的一個用java語言實現(xiàn)開源軟件框架,實現(xiàn)在大量計算機組成的集群中對海量數(shù)據(jù)進行分布式計算.
成都創(chuàng)新互聯(lián)2013年開創(chuàng)至今,先為南山等服務(wù)建站,南山等地企業(yè),進行企業(yè)商務(wù)咨詢服務(wù)。為南山企業(yè)網(wǎng)站制作PC+手機+微官網(wǎng)三網(wǎng)同步一站式服務(wù)解決您的所有建站問題。Hadoop框架中最核心設(shè)計就是:HDFS和MapReduce.HDFS提供了海量數(shù)據(jù)的存儲,MapReduce提供了對數(shù)據(jù)的計算.
數(shù)據(jù)在Hadoop中處理的流程可以簡單的按照下圖來理解:數(shù)據(jù)通過Haddop的集群處理后得到結(jié)果.
HDFS:Hadoop Distributed File System,Hadoop的分布式文件系統(tǒng).
大文件被分成默認64M一塊的數(shù)據(jù)塊分布存儲在集群機器中.
如下圖中的文件 data1被分成3塊,這3塊以冗余鏡像的方式分布在不同的機器中.
MapReduce:Hadoop為每一個input split創(chuàng)建一個task調(diào)用Map計算,在此task中依次處理此split中的一個個記錄(record),map會將結(jié)果以key--value的形式輸出,hadoop負責按key值將map的輸出整理后作為Reduce的輸入,Reduce Task的輸出為整個job的輸出,保存在HDFS上.
Hadoop的集群主要由 NameNode,DataNode,Secondary NameNode,JobTracker,TaskTracker組成.
如下圖所示:
NameNode中記錄了文件是如何被拆分成block以及這些block都存儲到了那些DateNode節(jié)點.
NameNode同時保存了文件系統(tǒng)運行的狀態(tài)信息.
DataNode中存儲的是被拆分的blocks.
Secondary NameNode幫助NameNode收集文件系統(tǒng)運行的狀態(tài)信息.
JobTracker當有任務(wù)提交到Hadoop集群的時候負責Job的運行,負責調(diào)度多個TaskTracker.
TaskTracker負責某一個map或者reduce任務(wù).
總結(jié)
以上所述是小編給大家介紹的hadoop是什么語言,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復大家的。在此也非常感謝大家對創(chuàng)新互聯(lián)網(wǎng)站的支持!