使用hadoop版本是DKH標(biāo)準(zhǔn)三節(jié)點(diǎn)發(fā)行版，DKHadoop版本的易用性比較好，環(huán)境部署要簡單的多，參考此篇安裝前請先下載DKHadoop版本，網(wǎng)盤鏈接：https://pan.baidu.com/s/1-427Sh7lTLrLAPh7KMOYVg 提取碼：vg2w
第一部分：準(zhǔn)備工作
1、 大數(shù)據(jù)平臺所需配置：
(1) 系統(tǒng)：CentOS 6.5 64位（需默認(rèn)安裝Desktop）
(2) CPU ：intel E3及以上。
(3) 內(nèi)存：建議最小8G,用圖計(jì)算建議32G,推薦128G。
(4) 硬盤：256G以上,推薦使用固態(tài)硬盤。
(5) 系統(tǒng)分區(qū)要求： 如無特殊需求，除swap分區(qū)外，可將剩余空間全部分配到/（根）分區(qū)
(6) 網(wǎng)絡(luò)要求：如無特殊情況，盡量可以接入外網(wǎng)。
(7) 至少三臺服務(wù)器（三臺服務(wù)器名字任意起，密碼須一致）。
（8）安裝使用root用戶作為默認(rèn)用戶
2、 遠(yuǎn)程上傳和遠(yuǎn)程連接工具：
（1） 若直接使用個人PC開啟的虛擬機(jī)作為服務(wù)器的基礎(chǔ)，直接拷貝到虛擬機(jī)下即可。
（2） 若是使用機(jī)房服務(wù)器作平臺搭建的服務(wù)器，如若不能直接接觸到服務(wù)器，則需要使用遠(yuǎn)程工具連接并發(fā)送安裝包
第二部分：服務(wù)器操作系統(tǒng)配置
1.修改權(quán)限
步驟：在準(zhǔn)備工作中拷貝安裝包DKHPlantform.zip到主節(jié)點(diǎn)/root/目錄后，解壓并修改文件權(quán)限（文件所有者可讀可寫可執(zhí)行，與文件所有者屬于一個用戶組的其他用戶可讀可執(zhí)行，其他用戶組可讀可執(zhí)行）。
命令：
cd /root/
unzip DKHPlantform.zip
chmod -R 755DKHPlantform
2. 搭建hadoop集群設(shè)置SSH免密登錄
步驟：
修改主機(jī)名 vi /etc/sysconfig/network reboot
（1）修改本機(jī)hosts文件，寫入對應(yīng)關(guān)系
命令：
vi /etc/hosts
通過按鍵盤上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq 后回車就可以保存。輸入q！后回車則是放棄保存并退出.
進(jìn)入編輯模式后，按照規(guī)則寫入主機(jī)與ip的對應(yīng)關(guān)系（主機(jī)名稱dk41是自己命名的，如下圖）例：
192.168.1.41 dk41
192.168.1.42 dk42
192.168.1.43 dk43
編輯完后，保存退出。把對應(yīng)關(guān)系拷到其他兩臺機(jī)器上。
命令：
scp -r /etc/hosts 192.168.1.42:/etc
scp -r /etc/hosts 192.168.1.43:/etc
（2）執(zhí)行集群之間免密前的準(zhǔn)備工作
a)執(zhí)行sshpass.sh的腳本的時候會去讀sshhosts和sshslaves這兩個文件，替換sshpass.sh中的master和slave文件。
修改文件sshhosts，輸入全部機(jī)器的主機(jī)名，每行一個主機(jī)名（如下圖）
命令：
vi/root/DKHPlantform/autossh/sshhosts
通過按鍵盤上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車就可以保存。輸入q！后回車則是放棄保存并退出.
修改文件sshslaves，寫入除主機(jī)名之外的所有機(jī)器名（如下圖）
命令：
vi/root/DKHPlantform/autossh/sshslaves
通過按鍵盤上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車就可以保存。輸入q！后回車則是放棄保存并退出.
b）執(zhí)行insExpect.sh，系統(tǒng)會裝兩個rpm包，在執(zhí)行sshpass.sh的過程中無需再輸密碼和yes，腳本自動繼續(xù)執(zhí)行。
命令：
cd /root/DKHPlantform/autossh
./insExpect.sh
按照提示多次輸入yes和密碼(如下圖)
c)執(zhí)行changeMaster.sh腳本為了清空/root/.ssh目錄下的所有文件(在/root/DKHPlantform/autossh目錄下)，避免在執(zhí)行sshpass.sh腳本時產(chǎn)生的新密鑰時與舊的密鑰發(fā)生沖突。
命令：
./changeMaster.sh
按照提示輸入（如下圖）
（3）執(zhí)行集群免密（SSH）
a)執(zhí)行SSH:
命令：
cd /root/
./sshpass.sh密碼
123456為集群密碼，根據(jù)自己實(shí)際情況輸入。
b)防止訪問服務(wù)器時某些服務(wù)被攔截,需關(guān)閉防火墻。
命令：
cd/root/DKHPlantform/autossh
./offIptables.sh
3.安裝雙機(jī)熱備份的MySQL
目的：存放Hive的元數(shù)據(jù)
步驟：
（1）從主節(jié)點(diǎn)分發(fā)mysql安裝目錄到第二節(jié)點(diǎn)
命令：
scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/
（2）主節(jié)點(diǎn)執(zhí)行：
命令：
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
ssh前往第二臺機(jī)器（從節(jié)點(diǎn)）并執(zhí)行:
命令：
cd/root/mysqlInst/
./mysql.sh 2
（3）執(zhí)行成功之后執(zhí)行熱備份（兩臺機(jī)器上都要執(zhí)行，兩個ip互換,41上寫42,42上寫41,密碼是Mysql的密碼為：123456。平臺內(nèi)已經(jīng)設(shè)定好，請勿修改）：
命令：
source /etc/profile
./sync.sh 192.168.1.xxx(另一臺mysql地址) root 123456
4.創(chuàng)建數(shù)據(jù)庫
步驟：
（1）導(dǎo)入MySQL數(shù)據(jù)表，只在主節(jié)點(diǎn)執(zhí)行：
命令：
mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件： dkh.sql}
如：mysql -uroot -p123456
（2）執(zhí)行完后查看一下兩臺mysql的數(shù)據(jù)表是否存在,從節(jié)點(diǎn)查看執(zhí)行：
命令：
mysql -uroot -p123456
show databases;
第三部分：DKH系統(tǒng)安裝
（1）啟動安裝
步驟：執(zhí)行以下命令。
命令：
cd /root/DKHPlantform/dkh-tomcat-7.0.56/bin/
./startup.sh
（2）登錄
啟動成功后瀏覽器鍵入主節(jié)點(diǎn)ip
登陸默認(rèn)用戶名和密碼:
Username:admin
Password:123456
后續(xù)根據(jù)提示安裝
（3）組件安裝路徑
建議采用默認(rèn)安裝路徑，即/opt/dkh/，注意千萬不要放/root/，不然impala等組件的安裝可能出現(xiàn)問題
第四部分：常見問題解決方法
1、當(dāng)hdfs的zkfc出現(xiàn)如下問題時，可嘗試以下方法：
(1) 先格式化hadoopzk:hdfs zkfc -formatZK
(2) 啟動zk，sbin下: ./hadoop-daemon.sh start zkfc
(3) 設(shè)定失敗轉(zhuǎn)移的namenode: hdfs haadmin -failover nn1 nn2
2、當(dāng)hue頁面打不開，顯示如下內(nèi)容時，說明沒有創(chuàng)建hue數(shù)據(jù)庫，可在主節(jié)點(diǎn)執(zhí)行此文件，根據(jù)提示輸入Y即可
3、當(dāng)hue頁面打不開，顯示如下內(nèi)容時，可執(zhí)行如下命令解決：
# cd /opt/dkh/hue-3.12.0/build/env/bin
# ./hue syncdb 之后輸入no
# ./hue migrate
4、Essql頁面打不開，顯示如下內(nèi)容時，可通過以下方式解決
(1) 主節(jié)點(diǎn)運(yùn)行命令：source /etc/profile，后重啟Tomcat（注意使用shutdown命令之后，若還存在相關(guān)進(jìn)程，需手動kill掉）適用于環(huán)境變量不生效的情況，比如，Java的版本識別的是1.7，而不是1.8；hdfs相關(guān)命令不識別等。
(2) 重啟Tomcat，注意使用shutdown命令之后，若還存在相關(guān)進(jìn)程，需手動kill掉適用于啟動了多個Tomcat進(jìn)程的情況。
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)cdcxhl.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點(diǎn)與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場景需求。
重慶分公司
重慶分公司
