本文來源：通通學--知識學習與分享平臺

創(chuàng)新互聯(lián)公司是一家專注于網(wǎng)站設計、網(wǎng)站建設與策劃設計,納溪網(wǎng)站建設哪家好?創(chuàng)新互聯(lián)公司做網(wǎng)站,專注于網(wǎng)站建設10多年,網(wǎng)設計領域的專業(yè)建站公司;建站業(yè)務涵蓋:納溪等地區(qū)。納溪做網(wǎng)站價格咨詢:18982081108

轉(zhuǎn)載鏈接：http://www.tongtongxue.com/archives/220.html

Hadoop的核心

HDFS: Hadoop Distributed File System 分布式文件系統(tǒng)

MapReduce：并行計算框架

Yarn：集群資源管理和調(diào)度框架

Hadoop是什么？

適合大數(shù)據(jù)的分布式存儲、計算、資源管理平臺

作者：Doug Cutting

受Google三篇論文的啟發(fā)

Hadoop生態(tài)系統(tǒng)

HDFS

主從結構
主節(jié)點，只有一個: namenode
從節(jié)點，有很多個: datanodes

namenode負責：
接收用戶操作請求
維護文件系統(tǒng)的目錄結構
管理文件與block之間關系，block與datanode之間關系

datanode負責：
存儲文件
文件被分成block存儲在磁盤上
為保證數(shù)據(jù)安全，文件會有多個副本

Yarn

Yarn下的MapReduce

主從結構
主節(jié)點，只有一個: ResourceManager
控制節(jié)點，每個Job都有一個MRAppMaster
從節(jié)點，有很多個: YarnChild

ResourceManager負責：
接收客戶提交的計算任務
把Job分給MRAppMaster執(zhí)行
監(jiān)控MRAppMaster的執(zhí)行情況

MRAppMaster負責：
負責一個Job執(zhí)行的任務調(diào)度
把Job分給YarnChild執(zhí)行
監(jiān)控YarnChild的執(zhí)行情況

另外有需要云服務器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應用場景需求。

本文標題：Hadoop深入淺出實戰(zhàn)經(jīng)典–第02講-創(chuàng)新互聯(lián)
標題URL：http://weahome.cn/article/jgjip.html