hadoop2.4.1偽分布模式部署 - wrencai
網(wǎng)站的建設(shè)成都創(chuàng)新互聯(lián)專注網(wǎng)站定制,經(jīng)驗(yàn)豐富,不做模板,主營網(wǎng)站定制開發(fā).小程序定制開發(fā),H5頁面制作!給你煥然一新的設(shè)計(jì)體驗(yàn)!已為成都廣告設(shè)計(jì)等企業(yè)提供專業(yè)服務(wù)。
時(shí)間 2014-08-08 14:54:33 博客園-所有隨筆區(qū)
原文 http://www.cnblogs.com/wrencai/p/3899375.html
hadoop2.4.1偽分布模式部署
（ 承接上一篇hadoop2.4.1-src的編譯安裝繼續(xù)配置 ： http://www.cnblogs.com/wrencai/p/3897438.html ）
感謝： http://blog.sina.com.cn/s/blog_5252f6ca0101kb3s.html
感謝： http://blog.csdn.net/coolwzjcool/article/details/32072157
1.配置hadoop環(huán)境變量
在/etc/profile文件結(jié)尾增加hadoop安裝目錄的PATH路徑
export HADOOP_PREFIX=/opt/hadoop-2.4.1-src/hadoop-dist/target/hadoop-2.4.1
export PATH=$PATH:$HADOOP_PREFIX/bin
2.配置hadoop相關(guān)配置文件
進(jìn)入到hadoop安裝目錄此處為：/opt/hadoop-2.4.1-src/hadoop-dist/target/hadoop-2.4.1
對etc/hadoop中的文件進(jìn)行配置（相關(guān)文件hadoop-env.sh 、core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml）
a.配制core-site.xml
注意紅色字體hadoop是我為配置hadoop2.4.1設(shè)立的賬戶名稱，是系統(tǒng)在home目錄下自動創(chuàng)建的，可以根據(jù)需要更改。
b.配制hdfs-site.xml
c.配制mapred-site.xml
d.配置yarn-site.xml
3.ssh免密碼登陸設(shè)置： 參考 http://lhflinux.blog.51cto.com/1961662/526122
ssh鏈接是需要密碼認(rèn)證的，可以通過添加系統(tǒng)認(rèn)證（即公鑰-私鑰）的修改，修改后系統(tǒng)間切換可以避免密碼輸入和ssh認(rèn)證。
a. 修改文件：vi /etc/ssh/sshd_config
RSAAuthentication yes 開啟RSA加密方式
PubkeyAuthentication yes 開啟公鑰認(rèn)證
AuthorizedKeysFile .ssh/authorized_keys 公鑰存放位置
PasswordAuthentication no 拒絕使用密碼登錄
GSSAPIAuthentication no 防止登錄慢，以及報(bào)錯(cuò)問題
ClientAliveInterval 300 300秒超時(shí)自動退出 ClientAliveCountMax 10 允許SSH遠(yuǎn)程連接的最大數(shù)
b.在root根目錄下執(zhí)行：
ssh-keygen -t rsa -P ''"
回車，然后輸入密碼， 完成后再執(zhí)行：（本機(jī)作為偽集群的一個(gè)節(jié)點(diǎn)，也需要將認(rèn)證寫入authorized,不執(zhí)行下一句可能會出現(xiàn)agent admitted failure to sign using the key 錯(cuò)誤，參考 http://blog.chinaunix.net/uid-28228356-id-3510267.html )）
cat /root/.ssh/id_rsa.pub >> /root/.ssh/authorized_keys
d.執(zhí)行下面命令，能夠直接進(jìn)入則表示成功
[root@localhost]#ssh localhost
Last login:Fri Aug 8 13:44:42 2014 from localhost
4.運(yùn)行測試hadoop
a.到hadoop2.4.0目錄下執(zhí)行下面命令，格式化結(jié)點(diǎn)信息，最后一句出現(xiàn) "shutting down..."，中間沒有warn或者fatal error應(yīng)該就對了。此處可能會出現(xiàn) STARTUP_MSG: host = java.net. UnknownHostException: localhost.localdomain: localhost.localdomain的提示，可以參考 http://lxy2330.iteye.com/blog/1112806 進(jìn)行修改，或者臨時(shí)通過hostname localhost命令將本機(jī)主機(jī)名改為localhost.
./bin/hadoop namenode –format
b.執(zhí)行sbin/start-all.sh啟動hadoop第一次可能不成功，這是可以通過先執(zhí)行一次sbin/stop-all.sh然后在執(zhí)行sbin/start-all.sh來完成，最后用jps命令查看進(jìn)程
[root@localhost hadoop-2.4.1]# ./sbin/start-all.sh
This script is Deprecated. Instead use start-dfs.sh and start-yarn.sh
Starting namenodes on [localhost]
localhost: starting namenode, logging to
/opt/hadoop-2.4.1-src/hadoop-dist/target/hadoop-2.4.1/logs/hadoop-root-namenode-localhost.out
localhost: starting datanode, logging to
/opt/hadoop-2.4.1-src/hadoop-dist/target/hadoop-2.4.1/logs/hadoop-root-datanode-localhost.out
Starting secondary namenodes [0.0.0.0]
0.0.0.0: starting secondarynamenode, logging to
/opt/hadoop-2.4.1-src/hadoop-dist/target/hadoop-2.4.1/logs/hadoop-root-secondarynamenode-localhost.out
starting yarn daemons
starting resourcemanager, logging to
/opt/hadoop-2.4.1-src/hadoop-dist/target/hadoop-2.4.1/logs/yarn-root-resourcemanager-localhost.out
localhost: starting nodemanager, logging to
/opt/hadoop-2.4.1-src/hadoop-dist/target/hadoop-2.4.1/logs/yarn-root-nodemanager-localhost.out
[root@localhost hadoop-2.4.1]# ssh localhost
Last login: Fri Aug 8 13:44:41 2014 from localhost
[root@localhost ~]# jps
28186 ResourceManager
28025 SecondaryNameNode
27743 NameNode
28281 NodeManager
29223 Jps
[root@localhost ~]#
重慶分公司
重慶分公司
