网创优客建站品牌官网
为成都网站建设公司企业提供高品质网站建设
热线:028-86922220
成都专业网站建设公司

定制建站费用3500元

符合中小企业对网站设计、功能常规化式的企业展示型网站建设

成都品牌网站建设

品牌网站建设费用6000元

本套餐主要针对企业品牌型网站、中高端设计、前端互动体验...

成都商城网站建设

商城网站建设费用8000元

商城网站建设因基本功能的需求不同费用上面也有很大的差别...

成都微信网站建设

手机微信网站建站3000元

手机微信网站开发、微信官网、微信商城网站...

建站知识

当前位置:首页 > 建站知识

HDFS怎么利用JAVA进行操作

这篇文章给大家介绍HDFS怎么利用JAVA进行操作,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。

让客户满意是我们工作的目标,不断超越客户的期望值来自于我们对这个行业的热爱。我们立志把好的技术通过有效、简单的方式提供给客户,将通过不懈努力成为客户在信息化领域值得信任、有价值的长期合作伙伴,公司提供的服务项目有:申请域名、网络空间、营销软件、网站建设、镇康网站维护、网站推广。

Jar包引入,pom.xml:

 
 org.apache.hadoop 
 hadoop-common 
 2.8.0 
 
 
 org.apache.hadoop 
 hadoop-hdfs 
 2.8.0 

将本地文件上传到hdfs服务器:

/** 
 * 上传文件到hdfs上 
 */ 
@Test 
public void upload() throws IOException { 
  Configuration conf = new Configuration(); 
  conf.set("fs.defaultFS","hdfs://hzq:9000"); 
  FileSystem fs = FileSystem.get(conf); 
  fs.copyFromLocalFile(new Path("/home/hzq/jdk1.8.tar.gz"),new Path("/demo")); 
}

解析:

在开发中我没有引入“core-site.xml”配置文件,所以在本地调用时使用conf进行配置“conf.set("fs.defaultFS","hdfs://hzq:9000");“,下面雷同。

将hdfs上文件下载到本地:

/** 
 * 将hdfs上文件下载到本地 
 */ 
@Test 
public void download() throws IOException { 
  Configuration conf = new Configuration(); 
  conf.set("fs.defaultFS","hdfs://hzq:9000"); 
  FileSystem fs = FileSystem.newInstance(conf); 
  fs.copyToLocalFile(new Path("/java/jdk1.8.tar.gz"),new Path("/home/hzq/")); 
}

删除hdfs上指定文件:

/** 
 * 删除hdfs上的文件 
 * @throws IOException 
 */ 
@Test 
public void removeFile() throws IOException { 
  Configuration conf = new Configuration(); 
  conf.set("fs.defaultFS","hdfs://hzq:9000"); 
  FileSystem fs = FileSystem.newInstance(conf); 
  fs.delete(new Path("/demo/jdk1.8.tar.gz"),true); 
}

在hdfs上创建文件夹:

/** 
 * 在hdfs更目录下面创建test1文件夹 
 * @throws IOException 
 */ 
@Test 
public void mkdir() throws IOException { 
  Configuration conf = new Configuration(); 
  conf.set("fs.defaultFS","hdfs://hzq:9000"); 
  FileSystem fs = FileSystem.newInstance(conf); 
  fs.mkdirs(new Path("/test1")); 
}

列出hdfs上所有的文件或文件夹:

@Test 
  public void listFiles() throws IOException { 
    Configuration conf = new Configuration(); 
    conf.set("fs.defaultFS","hdfs://hzq:9000"); 
    FileSystem fs = FileSystem.newInstance(conf); 
    // true 表示递归查找 false 不进行递归查找 
    RemoteIterator iterator = fs.listFiles(new Path("/"), true); 
    while (iterator.hasNext()){ 
      LocatedFileStatus next = iterator.next(); 
      System.out.println(next.getPath()); 
    } 
    System.out.println("----------------------------------------------------------"); 
    FileStatus[] fileStatuses = fs.listStatus(new Path("/")); 
    for (int i = 0; i < fileStatuses.length; i++) { 
      FileStatus fileStatus = fileStatuses[i]; 
      System.out.println(fileStatus.getPath()); 
    } 
  }

运行结果:

HDFS怎么利用JAVA进行操作                                    

结果分析:

“listFiles“列出的是hdfs上所有文件的路径,不包括文件夹。根据你的设置,支持递归查找。

  ”listStatus“列出的是所有的文件和文件夹,不支持递归查找。如许递归,需要自己实现。

关于HDFS怎么利用JAVA进行操作就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。


文章题目:HDFS怎么利用JAVA进行操作
网站链接:http://bjjierui.cn/article/ipcodi.html

其他资讯