真实的国产乱ⅩXXX66竹夫人,五月香六月婷婷激情综合,亚洲日本VA一区二区三区,亚洲精品一区二区三区麻豆

成都創(chuàng)新互聯(lián)網(wǎng)站制作重慶分公司

Hadoop安裝備忘-創(chuàng)新互聯(lián)

參考劉鵬的《實戰(zhàn)Hadoop》一書,按照hadoop 0.20.2幾個注意的地方。

創(chuàng)新互聯(lián)建站-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設、高性價比海城網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫,直接使用。一站式海城網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設找我們,業(yè)務覆蓋海城地區(qū)。費用合理售后完善,十年實體公司更值得信賴。

第一,首先理解Hadoop中的幾個后臺進程。

NameNode,Secondary NameNode,JobTracker,TaskTracker,DataNode這幾個角色。

NameNode:負責如何切分數(shù)據(jù)塊,和切完放哪個節(jié)點。它對內(nèi)存和I/O集中管理。

這個進程部署在Master節(jié)點上,是一個單點,它掛了整個系統(tǒng)都掛了。

Secondary NameNode:和NameNode一樣,輔助程序。每個集群都有一個,它與NameNode進行通訊,定期保存HDFS元數(shù)據(jù)快照,當NameNode故障可以作為備用NameNode使用。它也是部署在Master節(jié)點上。

JobTracker負責調度作業(yè),它決定哪些文件由哪些節(jié)點運行,并且監(jiān)聽TaskTracker發(fā)送來的心跳。當收不到心跳,即認為某個task失敗,就會決定重啟task。每個集群只有一個JobTracker。它是部署在Master節(jié)點上的。

上述三個進程都是部署在Master節(jié)點上的,而TaskTracker和DataNode進程進程是集群中各個幾點都需要部署的。

DataNode負責將HDFS數(shù)據(jù)塊讀寫到本地文件系統(tǒng)。當客戶端讀寫某個數(shù)據(jù)庫的時候,由NameNode告訴客戶端去那個DataNode進行,然后客戶端直接與這個DataNode的服務器通信,并操作相關的數(shù)據(jù)塊。

TaskTracker也是位于從節(jié)點的,它負責獨立執(zhí)行具體的Task,每個從節(jié)點只能有一個TaskTracker,但是每個TaskTracker可以產(chǎn)生多個Java虛擬機,用于并行處理多個map和reduce認為。TaskTracker還會和JobTracker交互,JobTasker負責分配Task,并且檢測TaskTracker的心跳,如果沒有心跳,就認為已經(jīng)崩潰,并將認為分配給其他的TaskTracker。

各個進程的部署圖如下:

Hadoop安裝備忘

具體的安裝環(huán)節(jié),可以參考書中的步驟,但是有幾個點需要注意。

主機和從機統(tǒng)一創(chuàng)建專門的運行hadoop的用戶grid, 設置SSH的免密碼登陸機制,可以參考http://chenlb.iteye.com/blog/211809。將所有的機器上的公鑰文件上里的內(nèi)容,都統(tǒng)一整合到一個authorized_keys文件,以此實現(xiàn)互相免密碼登陸ssh。

啟動hadoop的時候,注意要以grid用戶登錄,在grid用戶的主目錄下進行操作,有時權限的問題,此時要注意將主機和從機的hadoop文件夾的owner設置為grid用戶和組。執(zhí)行 chown -R grid:grid /home/grid/hadoop-1.2.1  (此處為hadoop的放置目錄,這里要使用root用戶修改)

然后可以到hadoop的文件夾中的bin目錄下啟動start-all.sh,可以看到如下的信息,說明啟動成功。

Hadoop安裝備忘

此時還可以通過運行命令查看進程的啟動情況,在主機上運行jdk中的jps文件,可以看到如下:

Hadoop安裝備忘

在從節(jié)點運行相同的命令,可以看到

Hadoop安裝備忘

至此,說明安裝Hadoop已經(jīng)成功了。

另外有需要云服務器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應用場景需求。


分享標題:Hadoop安裝備忘-創(chuàng)新互聯(lián)
URL分享:http://weahome.cn/article/psded.html

其他資訊

在線咨詢

微信咨詢

電話咨詢

028-86922220(工作日)

18980820575(7×24)

提交需求

返回頂部