240 发简信
IP属地:广东
  • Resize,w 360,h 240
    [翻译] 模式:服务网格

    •微服务•分布式系统•服务网•模式• 自从几十年前分布式系统被首次提出,我们了解到分布式系统能够实现在这之前我们甚至没有想到过的用例,但它们也会...

  • 第6章 MapReduce应用开发-MRUnit编写

    MRUnit是一个测试库,可以方便地测试Mapper与Reducer运行逻辑是否符合预期. 1、Mapper单元测试 如下为V1版本Mapper...

  • 第6章 MapReduce应用开发-管理配置

    1、多环境配置切换 开发时,如果需要经常在本地运行与集群运行间切换,可以编写多个hadoop配置文件,每个文件包含每个环境的连接设置,运行时指定...

  • 第6章 MapReduce应用开发-Configuration详解

    1、API解读 Resources 配置通过资源指定,资源以XML形式包含一组name/value对,每个资源通过String或Path指定,假...

  • 第5章 Hadoop IO操作 学习笔记

    5.1 数据完整性 系统中需要处理的数据量大到Hadoop处理极限时,容易出现数据丢失或者损坏.措施:数据引入系统时计算校验和(checksum...

  • Resize,w 360,h 240
    第3章 Hadoop分布式文件系统 学习笔记(二)

    3.6 数据流 3.6.1 剖析文件读取 1、客户端调用DistributedFileSystem.open方法以打开希望读取的文件,Distr...

  • java.util.ServiceLoader加载服务实现类

    1、ServiceLoader 简介 用于加载服务提供者。 服务通常是一组接口或者抽象类,服务提供者是服务的特定实现。服务提供者中的类通常实现了...

  • Java查询HDFS文件系统

    1、文件元数据 FileStatus 输入如下: FileStatus封装了目录与文件的元数据信息,包括所有者、块大小、文件长度、修改时间、副本...

  • Java读写Hadoop文件

    1、从Hadoop URL读取文件 示例一: URL.setURLStreamHandlerFactory(new FsUrlStreamHan...