本案例搭建的環(huán)境介紹如下:Ambari 2.4.2 + HDP 2.5 (hadoop 2.7 ;hive 1.2 ;Tez ;Spark 2.0)+jdk1.8.25 +centos7.0,這里首先要關(guān)注些注意事項(xiàng),至于為什么會(huì)一一說(shuō)明。
成都創(chuàng)新互聯(lián)公司主營(yíng)溪湖網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營(yíng)網(wǎng)站建設(shè)方案,成都APP應(yīng)用開發(fā),溪湖h5微信小程序定制開發(fā)搭建,溪湖網(wǎng)站營(yíng)銷推廣歡迎溪湖等地區(qū)企業(yè)咨詢
第一部分:注意事項(xiàng):
版本必須低于7.2 |
selinux 必須關(guān)閉 |
firewalld 必須關(guān)閉 |
127.0.0.1 hosts該條記錄刪除 |
本地倉(cāng)庫(kù)必須搭建 |
root 賬戶ssh 啟用 |
指定hdfs data 目錄 |
安裝jdk1.8.0 |
所有機(jī)器時(shí)間必須同步 |
1:版本必須低于7.2,這里踩了個(gè)大坑,剛開始選用了7.3,最后發(fā)現(xiàn)經(jīng)常莫名其妙的異常,經(jīng)常安裝失敗。后來(lái)從官方查到(沒(méi)有放在最顯眼的位置說(shuō)明):
2. 127.0.0.1 hosts該條記錄刪除 ,這也是在埋坑過(guò)后 發(fā)現(xiàn)的
3.本地倉(cāng)庫(kù)必須搭建 ,如果不搭建本地倉(cāng)庫(kù),太痛苦了。下載過(guò)程巨慢,而且每次重新來(lái)的時(shí)候,巨費(fèi)時(shí)間。
4.root 賬戶ssh 啟用 這個(gè)我也考慮過(guò)使用專門賬戶,雖然ambari 也支持該功能,但是需要做相應(yīng)的很多更改,如果是測(cè)試機(jī)版本,還是便捷點(diǎn)比較好,后期可以通過(guò)ambari 的相關(guān)安全策略來(lái)補(bǔ)上。
5.其他的幾項(xiàng)注意事項(xiàng),大家一看就懂的,不過(guò)還是得細(xì)心檢查比較好。否則后面的拍錯(cuò)過(guò)程會(huì)費(fèi)掉很多精力
第二部分:開始配置客戶端及ambari-server
1.集群端機(jī)器分配如下:
centos7.0 | 10.1.11.1 | hadoop11-1 |
centos7.0 | 10.1.11.2 | hadoop11-2 |
centos7.0 | 10.1.11.3 | hadoop11-3 |
centos7.0 | 10.1.11.4 | hadoop11-4 |
centos7.0 | 10.1.11.5 | hadoop11-5 |
centos7.0 | 10.1.11.6 | hadoop11-6 |
centos7.0 | 10.1.11.7 | hadoop11-7 |
2.檢查 centos 版本,關(guān)閉selinux ,firewalld , 添加hosts 記錄,安裝jdk1.8,
檢查時(shí)區(qū)和時(shí)間是否統(tǒng)一
yum install ntp
cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
配置root ssh 登陸
配置jdk1.8.025 ,將jdk 解壓到/usr/local/java/jdk1.8.0_112目錄:
/etc/profile 文件末尾添加
#add jdk-8u112
##add for jdk
export JAVA_HOME=/usr/local/java/jdk1.8.0_112
export CLASSPATH=$JAVA_HOME/lib:$JAVA_HOME/jre/lib:$JAVA_HOME/lib/tools.jar
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH
配置hosts 文件
cat /etc/hosts
10.1.11.32 localRepository-11-32
10.1.11.10 ambari-11-10
10.1.11.1 hadoop11-1
10.1.11.2 hadoop11-2
10.1.11.3 hadoop11-3
10.1.11.4 hadoop11-4
10.1.11.5 hadoop11-5
10.1.11.6 hadoop11-6
10.1.11.7 hadoop11-7
如上,客戶機(jī)的相關(guān)準(zhǔn)備工作已經(jīng)都檢查完畢。下一步驟,先搭建本地倉(cāng)庫(kù),以便下載。