這篇文章主要介紹如何解決DataGrip連接HiveServer2報錯的問題,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!
創(chuàng)新互聯(lián)專注于企業(yè)全網(wǎng)整合營銷推廣、網(wǎng)站重做改版、昭化網(wǎng)站定制設(shè)計、自適應(yīng)品牌網(wǎng)站建設(shè)、H5技術(shù)、成都商城網(wǎng)站開發(fā)、集團公司官網(wǎng)建設(shè)、成都外貿(mào)網(wǎng)站建設(shè)、高端網(wǎng)站制作、響應(yīng)式網(wǎng)頁設(shè)計等建站業(yè)務(wù),價格優(yōu)惠性價比高,為昭化等各大城市提供網(wǎng)站開發(fā)制作服務(wù)。DataGrip 連接 HiveServer2 報錯
一、Heap memory
Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
因為 DataGrip 會開好幾個 Session,我這里是 4 個 Session
因此有時候如果執(zhí)行的語句過大,會造成堆內(nèi)存來不起回收。導(dǎo)致堆內(nèi)存溢出,反應(yīng)在 DataGrip 就是執(zhí)行語句卡住沒反應(yīng),等很久然后報錯。這里有個超時時間,等很久就是超過這個超時時間后報錯。
我們可以適當調(diào)大 heap 內(nèi)存:
# 在 hive/bin 目錄下的 hive-config.sh,最后一行就是設(shè)置 heap 的大小。 69 # Default to use 256MB 70 export HADOOP_HEAPSIZE=${HADOOP_HEAPSIZE:-2048}
二、Too many open files
lzq@hadoop102 ~ ulimit -a -t: cpu time (seconds) unlimited -f: file size (blocks) unlimited -d: data seg size (kbytes) unlimited -s: stack size (kbytes) 8192 -c: core file size (blocks) 0 -m: resident set size (kbytes) unlimited -u: processes 10000 -n: file descriptors 4096 -l: locked-in-memory size (kbytes) 64 -v: address space (kbytes) unlimited -x: file locks unlimited -i: pending signals 31830 -q: bytes in POSIX msg queues 819200 -e: max nice 0 -r: max rt priority 0 -N 15: unlimited
修改較大文件連接數(shù)量
Linux 任何外部設(shè)備(socket、文件)都可以看做一個文件,而一個文件就可以通過一個文件描述符來讀寫。
-n: file descriptors 4096
描述的就是一進程可以打開文件較大的數(shù)量
默認是1024,我們可以通過命令ulimit -n 4096
把較大打開文件調(diào)整到 4096,如果重啟會還原成默認值
永久設(shè)置方法
vim /etc/security/limits.conf 在最后加入 * soft nofile 65535 * hard nofile 65535
安裝 lsof
sudo yum install lsof -y
查看當前系統(tǒng)打開的文件數(shù)量
lsof | wc -l watch "lsof | wc -l"
lzq@hadoop102 ~ jps 25696 Jps 1522 NameNode 22627 RunJar 1716 DataNode 3140 Kafka 2309 NodeManager 2647 QuorumPeerMain 22889 RunJar 23322 RunJar
查看某一進程的打開文件數(shù)量
# RunJar 就是 HiveServer2 的進程 lsof -p pid | wc -l lsof -p 22627 | wc -l lsof -p 22889 | wc -l lsof -p 23322 | wc -l
以上是“如何解決DataGrip連接HiveServer2報錯的問題”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關(guān)知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!