怎么從Hadoop URL讀取數(shù)據(jù)

本篇內容主要講解“怎么從Hadoop URL讀取數(shù)據(jù)”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“怎么從Hadoop URL讀取數(shù)據(jù)”吧!

1，編寫代碼

import java.io.*;
import java.net.URL;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.io.IOUtils;

public class URLCat {
    static {
        URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());
    }
    
    public static void main(String[] args) throws Exception {
        InputStream in = null;
        try {
            in = new URL(args[0]).openStream();
            IOUtils.copyBytes(in, System.out, 4096, false);
        } finally {
            IOUtils.closeStream(in);
        }
    }
}
 

2，編譯Java代碼

1. $ Hadoopcom.sun.tools.javac.Mian -d classes URLCat.java  

2. // then the class files will be generated in the directory of classes  

3，打包成jar包

1. jar cf URLCat.jar classes/URLCat.class   

2. // then we will get the URLCat.jar, the source is from classes/URLCat.class  

4，運行jar包

hadoop jar URLCat.jar URLCat hdfs://10.10.12.171/input/WordCount/file1  

Result:

1. hadoop  ok  

2. hadoop  fail  

3. hadoop  2.3  

可見hdfs://10.10.12.171/input/WordCount/file1的內容就輸出到了標準輸出了。

到此，相信大家對“怎么從Hadoop URL讀取數(shù)據(jù)”有了更深的了解，不妨來實際操作一番吧！這里是億速云網(wǎng)站，更多相關內容可以進入相關頻道進行查詢，關注我們，繼續(xù)學習！