這篇文章給大家分享的是有關Hue3.9如何搭建集成HDFS和Hive的內容。小編覺得挺實用的,因此分享給大家做個參考,一起跟隨小編過來看看吧。
創(chuàng)新互聯公司為您提適合企業(yè)的網站設計?讓您的網站在搜索引擎具有高度排名,讓您的網站具備超強的網絡競爭力!結合企業(yè)自身,進行網站設計及把握,最后結合企業(yè)文化和具體宗旨等,才能創(chuàng)作出一份性化解決方案。從網站策劃到網站設計、網站制作, 我們的網頁設計師為您提供的解決方案。運行環(huán)境:
CentOS 6.5
hadoop-2.6.0-cdh6.7.0
hadoop-2.6.0-cdh6.7.0
hive-1.1.0-cdh6.7.0
hue-3.9.0-cdh6.7.0
sqoop-1.4.6-cdh6.7.0
Hue:
官網地址:http://gethue.com/
官網安裝說明:http://cloudera.github.io/hue/latest/admin-manual/manual.html#centosrhel
官網github地址:
http://github.com/cloudera/hue
Hue是一個開源的Apache Hadoop UI系統,最早是由Cloudera Desktop演化而來,由Cloudera貢獻給開源社區(qū),它是基于Python Web框架Django實現的。通過使用Hue我們可以在瀏覽器端的Web控制臺上與Hadoop集群進行交互來分析處理數據,例如操作HDFS上的數據,運行MapReduce Job,Hive
等等
支持功能:
數據庫查詢編輯器,支持 Hive, Impala, MySql, PostGres, Sqlite and Oracle
動態(tài)查詢儀表盤,支持 Solr
支持 Spark 編輯器和儀表盤
瀏覽器查看狀態(tài),支持 YARN, HDFS, Hive table Metastore, HBase, ZooKeeper
支持 Pig Editor, Sqoop2, Oozie workflows 編輯器和儀表盤
將數據導入hdfs
1.CentOS6.5依賴環(huán)境:
yum install -y ant asciidoc cyrus-sasl-devel cyrus-sasl-gssapi cyrus-sasl-plain gcc gcc-c++ krb5-devel libffi-devel libxml2-devel libxslt-devel make mysql mysql-devel openldap-devel python-devel sqlite-devel gmp-devel
2.下載CDH5.7.0平臺Hue:
wget http://archive-primary.cloudera.com/cdh6/cdh/5/http://archive-primary.cloudera.com/cdh6/cdh/5/hue-3.9.0-cdh6.7.0.tar.gz
3.環(huán)境變量配置:
vim /.bash_profile export HUE_HOME=/home/hadoop/app/hue-3.9.0 export PATH=$HUE_HOME/bin:$PATH source ~/.bash_profile
4.編譯源碼(Hue3.9)
tar -xzvf hue-3.9.0-cdh6.7.0.tar.gz -C ~/app/ -- 檢查解壓后的用戶和用戶組 cd hue-3.9.0 make apps
編譯過程需要下很多模塊和包,所以根據你的網速可能會需要編譯很久。
最后出現xxx post-processed說明編譯成功
1190 static files copied to '/home/hadoop/app/hue-3.9.0/build/static', 1190 post-processed. make[1]: Leaving directory `/home/hadoop/app/hue-3.9.0/apps'
5.Hue配置全局文件($HUE_HOME/desktop/conf/hue.ini)
[desktop] secret_key=jFE93j;2[290-eiw.KEiwN2s3['d;/.q[eIW^y#e=+Iei*@Mn6.Hue集成Hadoop($HADOOP_HOME/etc/hadoop)
hdfs-site.xmlcore-site.xml dfs.webhdfs.enabled true hadoop.proxyuser.hue.hosts * httpfs-site.xml hadoop.proxyuser.hue.groups * httpfs.proxyuser.hue.hosts * httpfs.proxyuser.hue.groups * 6.1 Hue集成Hadoop($HUE_HOME/desktop/conf/hue.ini)
[hadoop] # Configuration for HDFS NameNode # ------------------------------------------------------------------------ [[hdfs_clusters]] # HA support by using HttpFs [[[default]]] # Enter the filesystem uri fs_defaultfs=hdfs://localhost:8020 # NameNode logical name. ## logical_name= # Use WebHdfs/HttpFs as the communication mechanism. # Domain should be the NameNode or HttpFs host. # Default port is 14000 for HttpFs. webhdfs_url= -- 取消注釋7.Hue集成Hive($HIVE_HOME/conf/hive-site.xml)
hive.server2.thrift.bind.port 10000 hive.server2.thrift.bind.host hadoop001 hive.server2.long.polling.timeout 5000 hive.server2.authentication NOSASL 7.1.Hue集成Hive($HUE_HOME/desktop/conf/hue.ini)
[beeswax] # Host where HiveServer2 is running. # If Kerberos security is enabled, use fully-qualified domain name (FQDN). hive_server_host=hadoop001 # Port where HiveServer2 Thrift server runs on. hive_server_port=10000 # Hive configuration directory, where hive-site.xml is located hive_conf_dir=/home/hadoop/app/apache-hive-2.2.0-bin/conf8.啟動Hue
-- 先啟動Hive [hadoop@hadoop001 bin]$ ./hiveserver2 --hiveconf hive.server2.thrift.port=10000 -- 啟動hue服務 [hadoop@hadoop001 hue-3.9.0]$ build/env/bin/supervisor9.訪問Hue操作hive
http://IP:8888/由于初次創(chuàng)建的用戶admin用戶 只能權限操作HDFS上/user/admin/* 目錄
如果要操作/user/hadoop/目錄,hue必須創(chuàng)建hadoop用戶操作;
遇到的權限報錯:
Note: you are a Hue admin but not a HDFS superuser, "hadoop" or part of HDFS supergroup, "supergroup".解決辦法:
# This should be the hadoop cluster admin default_hdfs_superuser=hadoop -- HDFS 修改為 hadoop感謝各位的閱讀!關于“Hue3.9如何搭建集成HDFS和Hive”這篇文章就分享到這里了,希望以上內容可以對大家有一定的幫助,讓大家可以學到更多知識,如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!
網頁標題:Hue3.9如何搭建集成HDFS和Hive-創(chuàng)新互聯
當前路徑:http://weahome.cn/article/ihcdh.html