這篇文章主要講解了“hadoop2.6.0-cdh5.7.0編譯方法是什么”,文中的講解內(nèi)容簡(jiǎn)單清晰,易于學(xué)習(xí)與理解,下面請(qǐng)大家跟著小編的思路慢慢深入,一起來(lái)研究和學(xué)習(xí)“hadoop2.6.0-cdh5.7.0編譯方法是什么”吧!
一、軟件包:snappy-1.1.3.tar.gz
二、安裝依賴包:
yum -y install snappy libsnappy-dev
yum -y install bzip2 libbz2-dev
yum -y install libjansson-dev
三、bzip2壓縮支持:
yum install -y bzip2-devel
rpm -qa bzip2-devel
注:bizip2的的本地壓縮支持無(wú)效,整個(gè)編譯過(guò)程,并沒(méi)有出現(xiàn)任何錯(cuò)誤,或異常,而且去cenots下的lib64位目錄下,查看libbz2的so文件,發(fā)現(xiàn)也正常。安裝bzip2-devel庫(kù)支持,然后重新編譯我們的hadoop即可。
四、安裝snappy:
# tar xf snappy-1.1.3.tar.gz
# cd snappy-1.1.3
# ./configure
# make && make install
查看snappy是否安裝完成:
# ll /usr/local/lib/ | grep snappy
五、編譯hadoop:mvn clean package -DskipTests -Pdist,native -Dtar -Dsnappy.lib=/usr/local/lib -Dbundle.snappy
或
mvn clean package -DskipTests -Pdist,native -Dtar
注:必須在編譯時(shí)加入native
六、配置hadoop的core-site.xml、mapred-site.xmlvi core-site.xml
io.compression.codecs
org.apache.hadoop.io.compress.GzipCodec,
org.apache.hadoop.io.compress.DefaultCodec,
org.apache.hadoop.io.compress.BZip2Codec,
org.apache.hadoop.io.compress.SnappyCodec
vi mapred-site.xml
mapreduce.map.output.compress.codec
org.apache.hadoop.io.compress.SnappyCodec
編譯完成后,將生成hadoop中的native目錄下文件拷貝到對(duì)應(yīng)hadoop安裝目錄下的native目錄中,并重啟hadoop。執(zhí)行hadoop checknative驗(yàn)證
感謝各位的閱讀,以上就是“hadoop2.6.0-cdh5.7.0編譯方法是什么”的內(nèi)容了,經(jīng)過(guò)本文的學(xué)習(xí)后,相信大家對(duì)hadoop2.6.0-cdh5.7.0編譯方法是什么這一問(wèn)題有了更深刻的體會(huì),具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章,歡迎關(guān)注!