這篇文章主要為大家展示了“hadoop如何解決discp不同版本間拷貝數(shù)據(jù)的問題”，內(nèi)容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“hadoop如何解決discp不同版本間拷貝數(shù)據(jù)的問題”這篇文章吧。

創(chuàng)新互聯(lián)建站專注骨干網(wǎng)絡(luò)服務(wù)器租用10多年，服務(wù)更有保障！服務(wù)器租用，中國電信成都樞紐中心 成都服務(wù)器租用，成都服務(wù)器托管，骨干網(wǎng)絡(luò)帶寬，享受低延遲，高速訪問。靈活、實(shí)現(xiàn)低成本的共享或公網(wǎng)數(shù)據(jù)中心高速帶寬的專屬高性能服務(wù)器。

hadoop   discp 的時(shí)候遇到的checksum mismatch問題

解決方法

網(wǎng)上普遍解決方法

在hdfs-site.xml

將dfs.checksum.type屬性設(shè)置為CRC32

使用過程中仍然有報(bào)上述錯(cuò)誤

經(jīng)檢驗(yàn)  參照 http://blog.sina.com.cn/s/blog_7ed002b30101kk08.html

使用  -update   -skipcrccheck 選項(xiàng)即可。

hadoop distcp -update -skipcrccheck hftp://host:50070/文件 /路徑

以上是“hadoop如何解決discp不同版本間拷貝數(shù)據(jù)的問題”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！