hadoop上传文件java_hadoop入门之通过java代码实现将本地文件上传到hadoop的文件系统...
第一步:首先搭建java的編譯環境。創建一個Java Project工程,名為upload。
第二步:選中所需的Jar包。
選中JRE System Library 選擇BuildPath Configure Build Path 選擇hadoop相應的jar包。
通過Add External JARS --〉Hadoop-0.20.2下所有的jar包以及lib下所有的jar包。OK。操作步驟如圖:
Hadoop-0.20.2下所有的jar包。
lib下的所有jar包。
第三步:創建class名為UploadFile
第四步:編寫代碼。
復制代碼代碼如下:
package upload;
import java.io.BufferedInputStream;
import java.io.FileInputStream;
import java.io.InputStream;
import java.io.OutputStream;
import java.net.URI;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
public class UploadFile {
public static void main(String[] args) {
try {
String localStr = args[0];
String dst = args[1];
//in對應的是本地文件系統的目錄
InputStream in = new BufferedInputStream(new FileInputStream(localStr));
Configuration conf = new Configuration();
//獲得hadoop系統的連接
FileSystem fs = FileSystem.get(URI.create(dst),conf);
//out對應的是Hadoop文件系統中的目錄
OutputStream out = fs.create(new Path(dst));
IOUtils.copyBytes(in, out, 4096,true//4096是4k字節
System.out.println("success");
} catch (Exception e) {
System.out.println(e.toString());
}
}
}
第五步:在Run Configuration里面設置兩個參數,并執行。
點擊 Run Configuration
在Java Application中設置 Project和MainClass
Arguments 加兩個參數/home/cui/xxxx hdf://cui:9000/xxx Applay Run
第六步:查看結果。
顯示運行成功。
在hadoop文件系統中已經看到了hadoop-0.20.2.tar.gz了。
至此文件通過代碼上傳成功!
將代碼打包成jar文件,并測試。
1.
在Run Configurations里面命名為uploadfile。
2. 右擊工程,執行Export,選擇Runnable JAR file。點擊下一步。
3. 選擇剛才的configuration uploadfile,選擇導出路徑/home/cui。命名為upload.jar
點擊下一步,導出成功。
4. 通過java命令執行。
5. 通過瀏覽器查看。
upload_hdfs.jar 已經存在。
總結
以上是生活随笔為你收集整理的hadoop上传文件java_hadoop入门之通过java代码实现将本地文件上传到hadoop的文件系统...的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 哈弗h2发动机进油管怎么拆
- 下一篇: 宝马铁西工厂的员工都住在哪里?