import java.io.ByteArrayOutputStream;
創(chuàng)新互聯(lián)建站秉承實現(xiàn)全網價值營銷的理念,以專業(yè)定制企業(yè)官網,網站制作、做網站,小程序設計,網頁設計制作,手機網站制作,營銷型網站幫助傳統(tǒng)企業(yè)實現(xiàn)“互聯(lián)網+”轉型升級專業(yè)定制企業(yè)官網,公司注重人才、技術和管理,匯聚了一批優(yōu)秀的互聯(lián)網技術人才,對客戶都以感恩的心態(tài)奉獻自己的專業(yè)和所長。
import java.io.InputStream;
import java.net.URL;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.junit.Test;
/**
* 測試hadoop文件系統(tǒng)的API
* @author Administrator
*
*/
public class TestFileSystemAPI {
/**
* 通過filesystem對象API讀取HDFS文件數據
*
* @author Administrator
*
* 1.創(chuàng)建configuration對象,注意這里如果涉及到某些參數,需要自己書寫指定在src目錄下
* 2.利用filesystem的get方法來獲取filesystem對象,get方法一共有三種(關鍵)
* 3.利用filesystem的open方法打開一個數據輸入流,方法過程中需要一個path對象的參數傳遞(關鍵)
* 4.利用ioutils工具類實現(xiàn)文件的輸出
*
*
*
*/
@Test
public void read() throws Exception {
//創(chuàng)建configuration對象,有個默認的加載順序,先從core-default.xml,再到src目錄中的文件,這里
//我們給定了
Configuration conf = new Configuration();
//通過conf的configuration對象創(chuàng)建了該分布式文件系統(tǒng)fs,默認如果不指定文件的話為本地文件系統(tǒng)
FileSystem fs = FileSystem.get(conf);
//定義一個URL的字符串
String file = "hdfs://hadoop01:9000/user/hadoop/data/hello.txt";
//通過一個URL的字符串構建一個path對象
Path path = new Path(file);
//調用fs的open方法創(chuàng)建fsdata輸入流可以去讀數據
FSDataInputStream in = fs.open(path);
//第一個參數是輸入流,第二個參數是輸出流,第三個參數是緩沖區(qū)大小,第四個參數是復制結束后是
//否關閉數據流
// IOUtils.copyBytes(in, System.out, 1024, true);
byte[] bys = new byte[1024];
int len =0;
while((len=in.read(bys))!=-1){
System.out.print(new String(bys,0,len));
}
}
}