【头歌】大数据从入门到实战 - 第2章 分布式文件系统HDFS

第1关：HDFS的基本操作

任务描述

本关任务：使用 Hadoop 命令来操作分布式文件系统。

编程要求

在右侧命令行中启动 Hadoop ，进行如下操作。

• 在 HDFS 中创建 /usr/output/ 文件夹；
• 在本地创建 hello.txt 文件并添加内容：“ HDFS 的块比磁盘的块大，其目的是为了最小化寻址开销。”；
• 将 hello.txt 上传至 HDFS 的 /usr/output/ 目录下；
• 删除 HDFS 的 /user/hadoop 目录；
• 将 Hadoop 上的文件 hello.txt 从 HDFS 复制到本地 /usr/local 目录。

  测试说明

  平台会查看你本地的文件和 HDFS 的文件是否存在，如果存在，则会将其内容输出到控制台。

  预期输出：

  HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。
  HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。
  

  代码如下

  start-dfs.sh
  hadoop fs -mkdir /usr
  hadoop fs -mkdir /usr/output
  vim hello.txt
  hadoop fs -put hello.txt /usr/output
  hadoop fs -rm -r /user/hadoop
  hadoop fs -copyToLocal /usr/output/hello.txt /usr/local
  

  第2关：HDFS-JAVA接口之读取文件

  任务描述

  本关任务：使用 HDFS 的 Java 接口进行文件的读写，文件 uri 地址为 hdfs://localhost:9000/user/hadoop/task.txt 。

  编程要求

  在右侧代码编辑区中编写代码实现如下功能：

  • 使用 FSDataInputStream 获取 HDFS 的 /user/hadoop/ 目录下的 task.txt 的文件内容，并输出，其中 uri 为 hdfs://localhost:9000/user/hadoop/task.txt 。

    测试说明

    点击评测，平台会通过脚本创建 /user/hadoop/task.txt 文件并添加相应内容，无需你自己创建，开启 hadoop ，编写代码点击评测即可。因为 Hadoop 环境非常消耗资源，所以你如果一段时间不在线，后台会销毁你的镜像，之前的数据会丢失（你的代码不会丢失），这个时候需要你重新启动 Hadoop 。

    预期输出：

     WARN [main] - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 怕什么真理无穷，进一寸有一寸的欢喜。
    

    第一行打印出来的是 log4j 的日志警告，可以忽略。

    代码如下

    //先再命令行输入如下代码，然后再去代码文件粘贴java代码
    start-dfs.sh
    vim test.txt
    i
    //按i进入修改模式后，把下列中文粘贴进去  ctl+shift+v
    独坐池塘如虎踞，绿荫树下养精神。
    春来我不先开口，哪个虫儿敢作声。
    //按Esc键推出修改模式
    Esc
    //输入:wq推出命令行模式
    :wq
    

    package step2;
    import java.io.IOException;
    import java.io.InputStream;
    import java.net.URI;
    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.Path;
    import org.apache.hadoop.io.IOUtils;
    public class FileSystemCat {
    	
    	public static void main(String[] args) throws IOException {
    		//请在Begin-End之间添加你的代码，完成任务要求。
            //请按照左侧的编程要求进行编写代码
    		//文件地址为 "hdfs://localhost:9000/user/hadoop/task.txt"
            /********* Begin *********/
    		URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
            Configuration config = new Configuration();
            FileSystem fs = FileSystem.get(uri,config);
            InputStream in = null;
            try{
                in = fs.open(new Path(uri));
                IOUtils.copyBytes(in, System.out,2048,false);
            }catch (Exception e){
                IOUtils.closeStream(in);
            }
    		/********* End *********/
    	}
    }
    

    第3关：HDFS-JAVA接口之上传文件

    任务描述

    本关任务：使用 HDFSAPI 上传文件至集群。

    编程要求

    在右侧代码编辑区和命令行中，编写代码与脚本实现如下功能：

    • 在 /develop/input/ 目录下创建 hello.txt 文件，并输入如下数据： 迢迢牵牛星，皎皎河汉女。 纤纤擢素手，札札弄机杼。 终日不成章，泣涕零如雨。 河汉清且浅，相去复几许？ 盈盈一水间，脉脉不得语。 《迢迢牵牛星》

    • 使用 FSDataOutputStream 对象将文件上传至 HDFS 的 /user/tmp/ 目录下，并打印进度。

      测试说明

      平台会运行你的 java 程序，并查看集群的文件将文件信息输出到控制台，第一行属于警告信息可以忽略。

      代码如下

      //先再命令行输入如下代码，然后再去代码文件粘贴java代码
      start-dfs.sh
      mkdir -p /develop/input
      cd /develop/input
      vim hello.txt
      i
      //输入i进入修改模式后把下面诗句粘贴进去 ctl+shift+v
      迢迢牵牛星，皎皎河汉女。
      纤纤擢素手，札札弄机杼。
      终日不成章，泣涕零如雨。
      河汉清且浅，相去复几许？
      盈盈一水间，脉脉不得语。
      《迢迢牵牛星》
      //按Esc键退出修改模式
      Esc
      //输入:wq退出命令行模式
      :wq  
      

      package step3;
      import java.io.BufferedInputStream;
      import java.io.FileInputStream;
      import java.io.FileNotFoundException;
      import java.io.IOException;
      import java.io.InputStream;
      import java.net.URI;
      import java.io.File;
      import org.apache.hadoop.conf.Configuration;
      import org.apache.hadoop.fs.FSDataOutputStream;
      import org.apache.hadoop.fs.FileSystem;
      import org.apache.hadoop.fs.Path;
      import org.apache.hadoop.io.IOUtils;
      import org.apache.hadoop.util.Progressable;
      public class FileSystemUpload {
      	
      	public static void main(String[] args) throws IOException {
      		//请在 Begin-End 之间添加代码，完成任务要求。
              /********* Begin *********/
      		File localPath = new File("/develop/input/hello.txt");
              String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
              InputStream in = new BufferedInputStream(new FileInputStream(localPath));
              Configuration config = new Configuration();
              FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);
              long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1; 
              FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
                  long fileCount = 0;
                  public void progress() {
                      System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");
                      fileCount++;
                  }
              });
              IOUtils.copyBytes(in, out, 2048, true);
      		
      		/********* End *********/
      	}
      }
      

      第4关：HDFS-JAVA接口之删除文件

      任务描述

      本关任务：删除 HDFS 中的文件和文件夹。

      编程要求

      在右侧代码区填充代码，实现如下功能：

      • 删除 HDFS 的 /user/hadoop/ 目录（空目录）；
      • 删除 HDFS 的 /tmp/test/ 目录（非空目录）；
      • 列出 HDFS 根目录下所有的文件和文件夹；
      • 列出 HDFS 下 /tmp/ 的所有文件和文件夹。

        测试说明

        HDFS 的文件夹在你点击评测是会通过脚本自动创建，不需要你自己创建哦，依照题意编写代码点击评测即可。

        代码如下

        //先再命令行输入如下代码，然后再去代码文件粘贴java代码
        start-dfs.sh
        

        package step4;
        import java.io.IOException;
        import java.net.URI;
        import org.apache.hadoop.conf.Configuration;
        import org.apache.hadoop.fs.FileStatus;
        import org.apache.hadoop.fs.FileSystem;
        import org.apache.hadoop.fs.FileUtil;
        import org.apache.hadoop.fs.Path;
        public class FileSystemDelete {
        	
        	public static void main(String[] args) throws IOException {
        		//请在 Begin-End 之间添加代码，完成本关任务。
                /********* Begin *********/
        		
        		String root = "hdfs://localhost:9000/";
                String path = "hdfs://localhost:9000/tmp";
                String del1 = "hdfs://localhost:9000/user/hadoop";
                String del2 = "hdfs://localhost:9000/tmp/test";
                Configuration config = new Configuration();
                FileSystem fs = FileSystem.get(URI.create(root),config);
                fs.delete(new Path(del1),true);
                fs.delete(new Path(del2),true);
                Path[] paths = {new Path(root),new Path(path)};
                FileStatus[] status = fs.listStatus(paths);
                Path[] listPaths = FileUtil.stat2Paths(status);
         
                for (Path path1 : listPaths){
          System.out.println(path1);
                }
        		
        		
        		/********* End *********/
        	}
        }