這篇文章將為大家詳細(xì)講解有關(guān)DKHadoop如何安裝,小編覺(jué)得挺實(shí)用的,因此分享給大家做個(gè)參考,希望大家閱讀完這篇文章后可以有所收獲。
在華陰等地區(qū),都構(gòu)建了全面的區(qū)域性戰(zhàn)略布局,加強(qiáng)發(fā)展的系統(tǒng)性、市場(chǎng)前瞻性、產(chǎn)品創(chuàng)新能力,以專(zhuān)注、極致的服務(wù)理念,為客戶(hù)提供網(wǎng)站設(shè)計(jì)、成都網(wǎng)站制作 網(wǎng)站設(shè)計(jì)制作定制開(kāi)發(fā),公司網(wǎng)站建設(shè),企業(yè)網(wǎng)站建設(shè),品牌網(wǎng)站制作,全網(wǎng)整合營(yíng)銷(xiāo)推廣,成都外貿(mào)網(wǎng)站制作,華陰網(wǎng)站建設(shè)費(fèi)用合理。第一部分:準(zhǔn)備工作
1、 大數(shù)據(jù)平臺(tái)所需配置:
(1) 系統(tǒng):CentOS 6.5 64位(需默認(rèn)安裝Desktop)
(2) CPU :intel E3及以上。
(3) 內(nèi)存:建議最小8G,用圖計(jì)算建議32G,推薦128G。
(4) 硬盤(pán):256G以上,推薦使用固態(tài)硬盤(pán)。
(5) 系統(tǒng)分區(qū)要求: 如無(wú)特殊需求,除swap分區(qū)外,可將剩余空間全部分配到/(根)分區(qū)
(6) 網(wǎng)絡(luò)要求:如無(wú)特殊情況,盡量可以接入外網(wǎng)。
(7) 至少三臺(tái)服務(wù)器(三臺(tái)服務(wù)器名字任意起,密碼須一致)。
(8)安裝使用root用戶(hù)作為默認(rèn)用戶(hù)
2、 遠(yuǎn)程上傳和遠(yuǎn)程連接工具:
(1) 若直接使用個(gè)人PC開(kāi)啟的虛擬機(jī)作為服務(wù)器的基礎(chǔ),直接拷貝到虛擬機(jī)下即可。
(2) 若是使用機(jī)房服務(wù)器作平臺(tái)搭建的服務(wù)器,如若不能直接接觸到服務(wù)器,則需要使用遠(yuǎn)程工具連接并發(fā)送安裝包
第二部分:服務(wù)器操作系統(tǒng)配置
1.修改權(quán)限
步驟:在準(zhǔn)備工作中拷貝安裝包DKHPlantform.zip到主節(jié)點(diǎn)/root/目錄后,解壓并修改文件權(quán)限(文件所有者可讀可寫(xiě)可執(zhí)行,與文件所有者屬于一個(gè)用戶(hù)組的其他用戶(hù)可讀可執(zhí)行,其他用戶(hù)組可讀可執(zhí)行)。
命令:
cd /root/
unzip DKHPlantform.zip
chmod -R 755 DKHPlantform
2. 搭建hadoop集群設(shè)置SSH免密登錄
步驟:
修改主機(jī)名 vi /etc/sysconfig/network reboot
(1)修改本機(jī)hosts文件,寫(xiě)入對(duì)應(yīng)關(guān)系
命令:
vi /etc/hosts
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq 后回車(chē)就可以保存。輸入q!后回車(chē)則是放棄保存并退出.
進(jìn)入編輯模式后,按照規(guī)則寫(xiě)入主機(jī)與ip的對(duì)應(yīng)關(guān)系(主機(jī)名稱(chēng)dk41是自己命名的,如下圖)例:
192.168.1.41 dk41
192.168.1.42 dk42
192.168.1.43 dk43
編輯完后,保存退出。把對(duì)應(yīng)關(guān)系拷到其他兩臺(tái)機(jī)器上。
命令:
scp -r /etc/hosts 192.168.1.42:/etc
scp -r /etc/hosts 192.168.1.43:/etc
(2)執(zhí)行集群之間免密前的準(zhǔn)備工作
a)執(zhí)行sshpass.sh的腳本的時(shí)候會(huì)去讀sshhosts和sshslaves這兩個(gè)文件,替換sshpass.sh中的master和slave文件。
修改文件sshhosts,輸入全部機(jī)器的主機(jī)名,每行一個(gè)主機(jī)名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshhosts
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車(chē)就可以保存。輸入q!后回車(chē)則是放棄保存并退出.
修改文件sshslaves,寫(xiě)入除主機(jī)名之外的所有機(jī)器名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshslaves
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車(chē)就可以保存。輸入q!后回車(chē)則是放棄保存并退出.
b)執(zhí)行insExpect.sh,系統(tǒng)會(huì)裝兩個(gè)rpm包,在執(zhí)行sshpass.sh的過(guò)程中無(wú)需再輸密碼和yes,腳本自動(dòng)繼續(xù)執(zhí)行。
命令:
cd /root/DKHPlantform/autossh
./insExpect.sh
按照提示多次輸入yes和密碼(如下圖)
c)執(zhí)行changeMaster.sh腳本為了清空/root/.ssh目錄下的所有文件(在/root/DKHPlantform/autossh目錄下),避免在執(zhí)行sshpass.sh腳本時(shí)產(chǎn)生的新密鑰時(shí)與舊的密鑰發(fā)生沖突。
命令:
./changeMaster.sh
按照提示輸入(如下圖)
(3)執(zhí)行集群免密(SSH)
a)執(zhí)行SSH:
命令:
cd /root/
./sshpass.sh 密碼
123456為集群密碼,根據(jù)自己實(shí)際情況輸入。
b)防止訪(fǎng)問(wèn)服務(wù)器時(shí)某些服務(wù)被攔截,需關(guān)閉防火墻。
命令:
cd /root/DKHPlantform/autossh
./offIptables.sh
3.安裝雙機(jī)熱備份的MySQL
目的:存放Hive的元數(shù)據(jù)
步驟:
(1)從主節(jié)點(diǎn)分發(fā)mysql安裝目錄到第二節(jié)點(diǎn)
命令:
scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/
(2)主節(jié)點(diǎn)執(zhí)行:
命令:
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
ssh前往第二臺(tái)機(jī)器(從節(jié)點(diǎn))并執(zhí)行:
命令:
cd /root/mysqlInst/
./mysql.sh 2
(3)執(zhí)行成功之后執(zhí)行熱備份(兩臺(tái)機(jī)器上都要執(zhí)行,兩個(gè)ip互換,41上寫(xiě)42,42上寫(xiě)41,密碼是Mysql的密碼為:123456。平臺(tái)內(nèi)已經(jīng)設(shè)定好,請(qǐng)勿修改):
命令:
source /etc/profile
./sync.sh 192.168.1.xxx(另一臺(tái)mysql地址) root 123456
4.創(chuàng)建數(shù)據(jù)庫(kù)
步驟:
(1)導(dǎo)入MySQL數(shù)據(jù)表,只在主節(jié)點(diǎn)執(zhí)行:
命令:
mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件: dkh.sql}
如:mysql -uroot -p123456
(2)執(zhí)行完后查看一下兩臺(tái)mysql的數(shù)據(jù)表是否存在,從節(jié)點(diǎn)查看執(zhí)行:
命令:
mysql -uroot -p123456
show databases;
第三部分:DKH系統(tǒng)安裝
(1)啟動(dòng)安裝
步驟:執(zhí)行以下命令。
命令:
cd /root/DKHPlantform/dkh-tomcat-7.0.56/bin/
./startup.sh
(2)登錄
啟動(dòng)成功后瀏覽器鍵入主節(jié)點(diǎn)ip
登陸默認(rèn)用戶(hù)名和密碼:
Username:admin
Password: 123456
后續(xù)根據(jù)提示安裝
(3)組件安裝路徑
建議采用默認(rèn)安裝路徑,即/opt/dkh/,注意千萬(wàn)不要放/root/,不然impala等組件的安裝可能出現(xiàn)問(wèn)題
第四部分:常見(jiàn)問(wèn)題解決方法
1、當(dāng)hdfs的zkfc出現(xiàn)如下問(wèn)題時(shí),可嘗試以下方法:
(1) 先格式化hadoopzk:hdfs zkfc -formatZK
(2) 啟動(dòng)zk,sbin下: ./hadoop-daemon.sh start zkfc
(3) 設(shè)定失敗轉(zhuǎn)移的namenode: hdfs haadmin -failover nn1 nn2
2、當(dāng)hue頁(yè)面打不開(kāi),顯示如下內(nèi)容時(shí),說(shuō)明沒(méi)有創(chuàng)建hue數(shù)據(jù)庫(kù),可在主節(jié)點(diǎn)執(zhí)行此文件,根據(jù)提示輸入Y即可
3、當(dāng)hue頁(yè)面打不開(kāi),顯示如下內(nèi)容時(shí),可執(zhí)行如下命令解決:
# cd /opt/dkh/hue-3.12.0/build/env/bin
# ./hue syncdb 之后輸入no
# ./hue migrate
4、Essql頁(yè)面打不開(kāi),顯示如下內(nèi)容時(shí),可通過(guò)以下方式解決
(1) 主節(jié)點(diǎn)運(yùn)行命令:source /etc/profile,后重啟Tomcat(注意使用shutdown命令之后,若還存在相關(guān)進(jìn)程,需手動(dòng)kill掉)適用于環(huán)境變量不生效的情況,比如,Java的版本識(shí)別的是1.7,而不是1.8;hdfs相關(guān)命令不識(shí)別等。
(2) 重啟Tomcat,注意使用shutdown命令之后,若還存在相關(guān)進(jìn)程,需手動(dòng)kill掉適用于啟動(dòng)了多個(gè)Tomcat進(jìn)程的情況。
關(guān)于“DKHadoop如何安裝”這篇文章就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,使各位可以學(xué)到更多知識(shí),如果覺(jué)得文章不錯(cuò),請(qǐng)把它分享出去讓更多的人看到。