Hadoop(HA)集群+Zookeeper实现高可用集群

Hadoop集群+Zookeeper实现高可用集群

设备的列表信息

节点类型 IP hosts(主机名)
NameNode 192.168.56.106 master
NameNode 192.168.56.107 standby-master
DataNode,JournalNode 192.168.56.108 slave1
DataNode,JournalNode 192.168.56.109 slave2
DataNode,JournalNode 192.168.56.110 slave3

一共配备的5台的设备，master充当(active)角色，standby-master充当(standby)角色，当master出现单点故障的时候，standby-master就会顶上去充当(active)角色来维持整个集群的运作。

搭建Ha集群依赖环境

环境名称 版本号
CentOS 7
Jdk jdk-8u131
Hadoop 2.6.5
zookeeper 3.4.10

把jdk、Hadoop、zookeeper解压到/use/local/目录下
编辑 /etc/profile文件分别加入jdk、Hadoop的环境变量

vim /etc/profile

加入以下环境变量:

JAVA_HOME=/usr/local/jdk1.8.0_131/
PATH=$JAVA_HOME/bin:$PATH
CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export JAVA_HOME
export PATH
export CLASSPATH

export PATH=$PATH:/usr/local/hadoop-2.6.5/bin:/usr/local/hadoop-2.6.5/sbin
profile环境变量

编辑hadoop-2.6.5/etc/hadoop/hadoop-env.sh文件加入Java环境变量


Hadoop的Java环境变量

这是我本次搭建用到的系统版本。

配备zookeeper集群

我会在slave1、slave2、slave3这三台机器上添zookeeper集群，把JournalNode节点交给zookeeper做调度。
解压后进入/zookeeper-3.4.10/conf/目录
拷贝 cp zoo_sample.cfg 改名成 zoo.cfg
拷贝 cp zoo_sample.cfg zoo.cfg

在zoo.cfg文件添加以下配置:
dataDir=/home/zookeeper/data
dataLogDir=/home/zookeeper/logs
clientPort=2181
server.1=slave1:2888:3888
server.2=slave2:2888:3888
server.3=slave3:2888:3888
配置myid:

我这里有3台zk集群机器，每台机器都需要在/home/zookeeper/data 目录下创建一个myid的文件、并且要写上自己对应的服务id号，比如我在slave1这台机器对应的service.id是1 那么我在myid就会写上1，slave2的service.id是2 就会写上2.. 以此类推。

cd /home/zookeeper/data/
vim myid (写上服务的id号保存退出)

编写开机启动脚本(为了方便启动，不用每次手动启动zk集群，如果觉得麻烦可以忽略该步骤)

写了一个脚本设置zookepper开机启动
在/etc/rc.d/init.d/目录下添加一个文件叫zookeeper

命令：touch zookeeper

写入以下配置，JAVA_HOME是你jdk的安装位置，ZOO_LOG_DIR是zookeeper存放日志的位置，ZOOKEEPER_HOME是zookeeper的安装位置。


#!/bin/bash
#chkconfig: 2345 10 90
#description: service zookeeper
export   JAVA_HOME=/usr/local/jdk1.8.0_131
export   ZOO_LOG_DIR=/home/zookeeper/datalog
ZOOKEEPER_HOME=/usr/local/zookeeper-3.4.10
su root  ${ZOOKEEPER_HOME}/bin/zkServer.sh "$1"

为新建的zookeeper文件添加可执行权限

命令：chmod +x /etc/rc.d/init.d/zookeeper

添加zookeeper到开机启动

命令：chkconfig --add zookeeper

重启你的的zk集群
检查你的zookeeper集群确保没问题

命令:/usr/local/zookeeper-3.4.10/bin/zkServer.sh status

启动zookeeper集群

以上已经配置好zookeeper集群

设置SSH免密登陆

两台NameNode之间的协调需要SSH登陆来实现，所以两台NameNode必须要配置好
进入master这台机器的的根目录

输入命令：ssh-keygen -t rsa

出现提示可以不理会 直接按几次回车键就行了，出现以下界面说明生成私钥id_rsa和公钥id_rsa.pub


生成的公钥

把生成的公钥id发送到 slave1、slave2、slave3、机器上

输入命令： ssh-copy-id slave1

slave1会要求你输入slave1这台机器上的密码


要求你输入slave1密码

密码输入正确后你会看到以下界面，它说已经添加了密钥,它叫你尝试登陆一下


叫你尝试登陆一下slave1

添加其他的slave2、slave3、slave4、standby-master、master也是同样的操作。(一共5台机器，包括目前本机)

在master完成以上操作之后，再到standby-master 重复以上的操作。(记得两个NameNode都要进行操作，重要的事再说一遍)。

配置Hadoop集群

配置core-site.xml
在core-site.xml加入以下配置
master是整个服务的标识、以及配备了zookeeper的配置信息

<configuration>

 <property>
      <name>fs.defaultFS</name>
      <value>hdfs://master</value>
 </property>
 <property>
      <name>hadoop.tmp.dir</name>
      <value>/home/hadoopData/hdfs/temp</value>
 </property>

 <property>
      <name>io.file.buffer.size</name>
      <value>4096</value>
 </property>

<!--zookeeper配置-->
 <property>
      <name>ha.zookeeper.quorum</name>
      <value>slave1:2181,slave2:2181,slave3:2181</value>
 </property>

</configuration>

配置hdfs-site.xml

<configuration>

<property>
   <name>dfs.namenode.name.dir</name>
   <value>/home/hadoopData/dfs/name</value>
 </property>
 <property>
   <name>dfs.datanode.data.dir</name>
   <value>/home/hadoopData/dfs/data</value>
 </property>
 <property>
   <name>dfs.replication</name>
   <value>3</value>
 </property>
 <property>
   <name>dfs.webhdfs.enabled</name>
   <value>true</value>
 </property>
 <property>
   <name>dfs.permissions.superusergroup</name>
   <value>staff</value>
 </property>
 <property>
   <name>dfs.permissions.enabled</name>
   <value>false</value>
 </property>

<!-- NanmeNode主备切换核心配置 -->
 <property>
        <name>dfs.nameservices</name>
        <value>master</value>
    </property>
    <property>
      <name>dfs.ha.namenodes.master</name>
      <value>nn1,nn2</value>
    </property>
    <property>
      <name>dfs.namenode.rpc-address.master.nn1</name>
      <value>master:9000</value>
    </property>
    <property>
        <name>dfs.namenode.http-address.master.nn1</name>
        <value>master:50070</value>
    </property>
    <property>
        <name>dfs.namenode.rpc-address.master.nn2</name>
        <value>standby-master:9000</value>
    </property>
    <property>
        <name>dfs.namenode.http-address.master.nn2</name>
        <value>standby-master:50070</value>
    </property>



    <!-- 指定NameNode的元数据在JournalNode上的存放位置 -->
    <property>
        <name>dfs.namenode.shared.edits.dir</name>
        <value>qjournal://slave1:8485;slave2:8485;slave3:8485/master</value>
    </property>
    <!-- 指定JournalNode在本地磁盘存放数据的位置 -->
    <property>
          <name>dfs.journalnode.edits.dir</name>
          <value>/home/hadoopData/journal</value>
    </property>


    <!-- 开启NameNode故障时自动切换 -->
    <property>
      <name>dfs.ha.automatic-failover.enabled</name>
      <value>true</value>
    </property>
    <property>
        <name>dfs.client.failover.proxy.provider.master</name>
        <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
    </property>
    <property>
        <name>dfs.ha.fencing.methods</name>
        <value>sshfence</value>
    </property>
    <!--ssh免登陆 -->
    <property>
        <name>dfs.ha.fencing.ssh.private-key-files</name>
        <value>/root/.ssh/id_rsa</value>
    </property>

    <property>
      <name>dfs.replication</name>
      <value>2</value>
    </property>
    <property>
      <name>dfs.webhdfs.enabled</name>
      <value>true</value>
    </property>

</configuration>

注意事项：
我这里一共拆分了3部分来说明、以上的配置的文件分别有备注说明
在dfs.nameservices标签中的value 和core-site.xml配置中的服务名要一致，因为我起名叫master，所以我这里也叫master。
dfs.namenode.shared.edits.dir标签中存放的是你的zk集群的journalnode，后面记得加上你的服务名。

把这2份配置文件分别拷贝到5台机器上。

安装fuser

在你的两台NameNode都需要安装fuser
进入你的 .ssh目录（我的目录是/root/.ssh）

安装命令: yum provides "*/fuser"
安装命令:yum -y install psmisc

安装fuser

同样另外一台standby-master同样的操作。

启动Hadoop集群

在master上的操作

1.启动journalnode

命令：hadoop-daemon.sh start journalnode

因为我在master中配了slaves这个文件，把slave1、slave2、slave3都加了进来所以可以启动它们，查看DataNode节点上的journalnode是否启动成功


查看journalnode是否启动成功

出现journalnode说明启动成功了。

2.格式化zookepper

命令: hdfs zkfc -formatZK

操作完毕出现以下内容:


格式化zookepper

3.格式化hdfs

命令: hadoop namenode -format

操作完毕出现以下内容:


格式化hdfs

4.启动master的NameNode

命令: hadoop-daemon.sh start namenode

启动完毕后切换到standby-master操作

在standby-master操作

在master的NameNode启动之后，我们进行对NameNode的数据同步
在standby-master输入以下命令

命令:hdfs namenode -bootstrapStandby

出现以下信息:


NameNode的数据同步

启动Hadoop集群

回到master启动集群输入以下命令

命令: start-dfs.sh

在游览器输入 http://192.168.56.106:50070/ 和 http://192.168.56.107:50070/
出现以下情况说明已经成功了。


启动Hadoop集群

测试HA集群可用性

以上是master是active状态，我现在把它关闭，看看standby-master是否会自动升级为active状态。
关闭master：


关闭master

观察standby-master：


观察standby-master

可以看到standby-master已经自动升级为active状态说明整个HA集群搭建完成了。

最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
  • 人面猴
    序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
    沈念sama阅读 194,242评论 5赞 459
  • 死咒
    序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
    沈念sama阅读 81,769评论 2赞 371
  • 救了他两次的神仙让他今天三更去死
    文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
    开封第一讲书人阅读 141,484评论 0赞 319
  • 道士缉凶录：失踪的卖姜人
    文/不坏的土叔 我叫张陵，是天一观的道长。 经常有香客问我，道长，这世上最难降的妖魔是什么？ 我笑而不...
    开封第一讲书人阅读 52,133评论 1赞 263
  • 港岛之恋（遗憾婚礼）
    正文 为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
    茶点故事阅读 61,007评论 4赞 355
  • 恶毒庶女顶嫁案：这布局不是一般人想出来的
    文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
    开封第一讲书人阅读 46,080评论 1赞 272
  • 城市分裂传说
    那天，我揣着相机与录音，去河边找鬼。 笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。 我是一名探鬼主播，决...
    沈念sama阅读 36,496评论 3赞 381
  • 双鸳鸯连环套：你想象不到人心有多黑
    文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
    开封第一讲书人阅读 35,190评论 0赞 253
  • 万荣杀人案实录
    序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
    沈念sama阅读 39,464评论 1赞 290
  • 护林员之死
    正文 独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,549评论 2赞 309
  • 白月光启示录
    正文 我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,330评论 1赞 326
  • 活死人
    序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
    沈念sama阅读 32,205评论 3赞 312
  • 日本核电站爆炸内幕
    正文 年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
    茶点故事阅读 37,567评论 3赞 298
  • 男人毒药：我在死后第九天来索命
    文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,889评论 0赞 17
  • 一桩弑父案，背后竟有这般阴谋
    文/苍兰香墨 我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,160评论 1赞 250
  • 情欲美人皮
    我被黑心中介骗来泰国打工， 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。 一个月前我还...
    沈念sama阅读 41,475评论 2赞 341
  • 代替公主和亲
    正文 我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
    茶点故事阅读 40,650评论 2赞 335