這篇文章主要講解了“hadoop2.6.0-cdh5.7.0編譯方法是什么”,文中的講解內(nèi)容簡(jiǎn)單清晰,易于學(xué)習(xí)與理解,下面請(qǐng)大家跟著小編的思路慢慢深入,一起來(lái)研究和學(xué)習(xí)“hadoop2.6.0-cdh5.7.0編譯方法是什么”吧!
成都創(chuàng)新互聯(lián)公司服務(wù)緊隨時(shí)代發(fā)展步伐,進(jìn)行技術(shù)革新和技術(shù)進(jìn)步,經(jīng)過(guò)十年的發(fā)展和積累,已經(jīng)匯集了一批資深網(wǎng)站策劃師、設(shè)計(jì)師、專業(yè)的網(wǎng)站實(shí)施團(tuán)隊(duì)以及高素質(zhì)售后服務(wù)人員,并且完全形成了一套成熟的業(yè)務(wù)流程,能夠完全依照客戶要求對(duì)網(wǎng)站進(jìn)行成都網(wǎng)站建設(shè)、成都網(wǎng)站設(shè)計(jì)、建設(shè)、維護(hù)、更新和改版,實(shí)現(xiàn)客戶網(wǎng)站對(duì)外宣傳展示的首要目的,并為客戶企業(yè)品牌互聯(lián)網(wǎng)化提供全面的解決方案。一、軟件包:snappy-1.1.3.tar.gz
二、安裝依賴包:
yum -y install snappy libsnappy-dev
yum -y install bzip2 libbz2-dev
yum -y install libjansson-dev
三、bzip2壓縮支持:
yum install -y bzip2-devel
rpm -qa bzip2-devel
注:bizip2的的本地壓縮支持無(wú)效,整個(gè)編譯過(guò)程,并沒(méi)有出現(xiàn)任何錯(cuò)誤,或異常,而且去cenots下的lib64位目錄下,查看libbz2的so文件,發(fā)現(xiàn)也正常。安裝bzip2-devel庫(kù)支持,然后重新編譯我們的hadoop即可。
四、安裝snappy:
# tar xf snappy-1.1.3.tar.gz
# cd snappy-1.1.3
# ./configure
# make && make install
查看snappy是否安裝完成:
# ll /usr/local/lib/ | grep snappy
五、編譯hadoop:mvn clean package -DskipTests -Pdist,native -Dtar -Dsnappy.lib=/usr/local/lib -Dbundle.snappy
或
mvn clean package -DskipTests -Pdist,native -Dtar
注:必須在編譯時(shí)加入native
六、配置hadoop的core-site.xml、mapred-site.xmlvi core-site.xml
io.compression.codecs
org.apache.hadoop.io.compress.GzipCodec,
org.apache.hadoop.io.compress.DefaultCodec,
org.apache.hadoop.io.compress.BZip2Codec,
org.apache.hadoop.io.compress.SnappyCodec
vi mapred-site.xml
mapreduce.map.output.compress.codec
org.apache.hadoop.io.compress.SnappyCodec
編譯完成后,將生成hadoop中的native目錄下文件拷貝到對(duì)應(yīng)hadoop安裝目錄下的native目錄中,并重啟hadoop。執(zhí)行hadoop checknative驗(yàn)證
感謝各位的閱讀,以上就是“hadoop2.6.0-cdh5.7.0編譯方法是什么”的內(nèi)容了,經(jīng)過(guò)本文的學(xué)習(xí)后,相信大家對(duì)hadoop2.6.0-cdh5.7.0編譯方法是什么這一問(wèn)題有了更深刻的體會(huì),具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章,歡迎關(guān)注!