240 投稿
收录了3篇文章 · 1人关注
  • Resize,w 360,h 240
    通过代理服务访问 HDFS 集群

    背景 在 HDFS 使用过程中,有时会需要一个类似代理的机制,即:通过一台或多台代理服务器,来代理某一批机器的 HDFS 访问。需要注意的是,大...

  • HDFS 客户端常见报错整理

    概述 HDFS 客户端在使用过程中,有下面两个过程: 向 NameNode 进行 RPC 请求 向 DataNode 进行 IO 读写。无论哪个...

  • HDFS 丢块问题处理

    概述 HDFS 默认以三副本存储文件 block,且三副本的选择遵循一定的策略,指导思想是尽量降低 block 丢失的风险。除此之外,NameN...

  • Facebook RAID 在 Hadoop 2.8.5 中的处理

    一. Facebook RAID 简介 Facebook RAID 本质上是一个针对目标 RAID 目录的 MR 任务,在 MR 任务中,完成对...