這篇文章將為大家詳細講解有關Linux中Centos7搭建Hadoop服務的方法,小編覺得挺實用的,因此分享給大家做個參考,希望大家閱讀完這篇文章后可以有所收獲。
為阿拉善盟等地區(qū)用戶提供了全套網頁設計制作服務,及阿拉善盟網站建設行業(yè)解決方案。主營業(yè)務為網站設計、成都網站建設、阿拉善盟網站設計,以傳統(tǒng)方式定制建設網站,并提供域名空間備案等一條龍服務,秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務。我們深信只要達到每一位用戶的要求,就會得到認可,從而選擇與我們長期合作。這樣,我們也可以走得更遠!下載Hadoop 官網:http://hadoop.apache.org/releases.html
先配置jdk環(huán)境
下載以后 解壓到到/usr/local
tar -zxvf hadoop-2.8.0.tar.gz -C /usr/local
為了方便操作 把hadoop-2.8.0 改為hadoop
mv /usr/local/hadoop-2.8.0 /usr/local/hadoop
查看主機名
hostname //第一個參數為主機名
檢查是否可以免密碼
ssh localhost //這里的localhost為主機名
注意:一般初次安裝都需要密碼
ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
再次驗證
ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
注意:如沒有Enter password 就說明免密碼了
配置環(huán)境變量
vim /etc/profile
末尾添加
export HADOOP_HOME=/usr/local/hadoop export PATH=$JAVA_HOME/bin:$PATH:$HOME/bin:$HADOOP_HOME/bin
使環(huán)境變量立即生效
source /etc/profile
創(chuàng)建Hadoop的臨時文件存放地
mkdir /usr/local/hadoop/tmp
編輯Hadoop的配置文件
cd /usr/local/hadoop/etc/hadoop/ vim hadoop-env.sh
末尾添加
export JAVA_HOME=/usr/local/java/jdk1.8.0_131/ export HADOOP_CONF_DIR=/usr/local/hadoop/etc/hadoop
注意:路徑要對
使環(huán)境變量立即生效
source hadoop-env.sh
配置另一個文件
vim core-site.xml
在
fs.defaultFS hdfs://localhost:9000 hadoop.tmp.dir file:/usr/local/hadoop/tmp
配置下一個文件 hdfs-site.xml
vim hdfs-site.xml
在
dfs.replication 1 dfs.namenode.name.dir file:/usr/local/hadoop/tmp/dfs/name dfs.datanode.data.dir file:/usr/local/hadoop/tmp/dfs/data
配置下一個文件mapred-site.xml 因為這個文件默認不存在 我們把mapred-site.xml.template作為模板來配置
cp mapred-site.xml.template mapred-site.xml
vim mapred-site.xml
在
mapreduce.framework.name yarn
配置下下個文件yarn-site.xml
vim yarn-site.xml
在
yarn.nodemanager.aux-services mapreduce_shuffle
配置最后一個文件yarn-env.sh
vim yarn-env.sh
注意:在第23行左右 export JAVA_HOME (刪除# 去掉注釋),并更改正確jdk的路徑
格式化namenode
cd /usr/local/hadoop bin/hdfs namenode-format
注意:成功的話,會看到 “successfully formatted” 和 “Exitting withstatus 0” 的提示,若為 “Exitting with status 1” 則是出錯了
通過腳本啟動hdfs
sbin/start-dfs.sh
打開瀏覽器訪問http://localhost:50070,驗證是否hdfs配置成功
再來啟動yarn
sbin/start-yarn.sh
打開瀏覽器訪問http://localhost:8088,驗證yarn是否配置成功
注意:由于瀏覽器存在緩存問題 打開地址可能會失敗關閉瀏覽器 重新打開一兩次就好,如果還是失敗 檢查配置文件是否有誤
查看已啟動的hadoop進程
jps
注意:如果沒有 NameNode 或 DataNode ,那就是配置不成功
關于“Linux中Centos7搭建Hadoop服務的方法”這篇文章就分享到這里了,希望以上內容可以對大家有一定的幫助,使各位可以學到更多知識,如果覺得文章不錯,請把它分享出去讓更多的人看到。