006.CM大数据平台实践之集群扩容

1. 背景

原有的大数据平台分布信息如下

主机名 系统版本 CDH版本 角色
m162p122 CentOS-6.8 cm6.3.1-redhat6 server
m162p123 CentOS-6.8 cm6.3.1-redhat6 agent
m162p124 CentOS-6.8 cm6.3.1-redhat6 agent

需求:

将m162p133这台机器添加到大数据集群中,并重新规划大数据集群中各组件的角色。

主机名 系统版本 CDH版本 角色
m162p133 CentOS-6.10 cm6.3.1-redhat6 agent

2. 修改/etc/hosts文件

原有的3台服务器的hosts文件如下:

192.168.162.122   m162p122
192.168.162.123   m162p123
192.168.162.124   m162p124

修改原有的3台和新服务器的hosts文件,改为:

192.168.162.122   m162p122
192.168.162.123   m162p123
192.168.162.124   m162p124
192.168.162.133   m162p133

3. 新服务器与原有的服务器之间root用户免密钥登陆

原来的3台服务器使用root用户可以免密钥登陆,现需要配置为4台服务器两两之间使用root用户免密钥登陆。

3.1 新服务器生成公钥文件

首先检查新增的服务器的/root/.ssh目录下有没有id_rsa.pub文件,我这里给到的新服务器存在公钥文件,如果不存在,执行以下命令,一路回车即可生成id_rsa.pub文件。

[root@xxx ~]$ ssh-keygen
Generating public/private rsa key pair.
Enter file in which to save the key (/home/melon/.ssh/id_rsa): 
Created directory '/home/melon/.ssh'.
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /home/melon/.ssh/id_rsa.
Your public key has been saved in /home/melon/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:abJWLmDToAMXfTqbbABv1cdbw4wa+6ygrzXAydWuqxA melon@blazers
The key's randomart image is:
+---[RSA 2048]----+
|  .. . . +       |
|.  .o.+ + =      |
|.o..oo.= o .     |
| =++o+o ..       |
|E.Bo+++oS        |
| . +*+ *o        |
|.  o+.+..        |
| ... +..         |
|  o+o            |
+----[SHA256]-----+

3.2 配置4台服务器root用户免密钥登陆

3台老服务器执行以下命令:

ssh-copy-id m162p133

1台新服务器执行以下命令:

ssh-copy-id m162p122
ssh-copy-id m162p123
ssh-copy-id m162p124

4. 新服务器与原有服务器时间同步

4.1 确定3台旧服务器ntp服务的主从关系

查看/etc/ntp.conf,发现m162p122服务器从外网同步时间:

driftfile /var/lib/ntp/drift
restrict 127.0.0.1
restrict -6 ::1
restrict default nomodify notrap
server 0.cn.pool.ntp.org prefer
includefile /etc/ntp/crypto/pw
keys /etc/ntp/keys

m162p123与m162p124服务器从m162p122同步时间:

driftfile /var/lib/ntp/drift
restrict 127.0.0.1
restrict -6 ::1
restrict default kod nomodify notrap nopeer noquery
restrict -6 default kod nomodify notrap nopeer noquery
server 192.168.162.122
includefile /etc/ntp/crypto/pw
keys /etc/ntp/keys

4.2 配置m162p133从m162p122同步时间

# (1) 查看m162p133的ntp服务状态,发现m162p133未安装ntp服务
[root@m162p133 ~]# service ntpd status
ntpd: unrecognized service

# (2) 安装ntp服务
[root@m162p133 ~]# yum install ntp -y

# (3) 编辑/etc/ntp.conf文件,直接复制m162p123或者m162p124的ntp.conf文件中的内容即可

# (4) 手动同步一下时间
[root@m162p133 ~]# ntpdate m162p122
23 Dec 14:40:21 ntpdate[19480]: step time server 192.168.162.122 offset 76.025642 sec

# (5) 开启ntp服务
[root@m162p133 ~]# service ntpd start
Starting ntpd:                                             [  OK  ]
[root@m162p133 ~]# chkconfig ntpd on

5. 新服务器安装cloudera-manager-agent-6.3.1

5.1 安装包cm6.3.1-redhat6.tar.gz上传到m162p133并解压

我的安装包解压到了/opt/cm6.3.1目录下

5.2 安装Agent

# 关键命令
chown -R root:root /opt/cm6.3.1
yum install cloudera-manager-daemons-6.3.1-1466458.el6.x86_64.rpm -y
yum install cloudera-manager-agent-6.3.1-1466458.el6.x86_64.rpm -y
# 这行一定要执行
[root@m162p133 opt]# chown -R root:root cm6.3.1

[root@m162p133 opt]# cd /opt/cm6.3.1/RPMS/x86_64/

[root@m162p133 x86_64]# yum install cloudera-manager-daemons-6.3.1-1466458.el6.x86_64.rpm -y
Loaded plugins: fastestmirror
Setting up Install Process
Examining cloudera-manager-daemons-6.3.1-1466458.el6.x86_64.rpm: cloudera-manager-daemons-6.3.1-1466458.el6.x86_64
Marking cloudera-manager-daemons-6.3.1-1466458.el6.x86_64.rpm to be installed

.......

Installed:
  cloudera-manager-daemons.x86_64 0:6.3.1-1466458.el6                                                                                                        

Complete!

[root@m162p133 x86_64]# yum install cloudera-manager-agent-6.3.1-1466458.el6.x86_64.rpm -y
Loaded plugins: fastestmirror
Setting up Install Process
Examining cloudera-manager-agent-6.3.1-1466458.el6.x86_64.rpm: cloudera-manager-agent-6.3.1-1466458.el6.x86_64
Marking cloudera-manager-agent-6.3.1-1466458.el6.x86_64.rpm to be installed
......    
                                                                                       .....                     
Complete!

5.3 配置Agent

# 只需要修改server_host为m162p122即可
[root@m162p133 opt]# vim /etc/cloudera-scm-agent/config.ini

server_host=192.168.162.122

5.4 启动agent

[root@m162p133 bin]# service cloudera-scm-agent start
Starting cloudera-scm-agent:                               [  OK  ]

# 查看日志,查看有没有报错信息
vim /var/log/cloudera-scm-agent/cloudera-scm-agent.log

[root@m162p133 bin]# service cloudera-scm-agent status
cloudera-scm-agent (pid  23870) is running...

6. 页面操作

6.1 添加新主机到集群中

Agent已成功启动,且被Cloudera Manager识别,但还未加入集群并分配各组件的角色。

添加主机到集群:

检查完之后发现有不少警告信息,大部分是原有的三台机器的问题,我们不再处理,因为原来的大数据集群使用正常,关于新加机器的警告只有一个,Supervisord版本不兼容,注意到原来的机器也有这个警告,但大数据集群还是运行正常,于是我选择忽略这里的全部警告。

6.2 大数据组件的角色迁移

原有的服务分布如下:

迁移原则:所有的管理服务分配到m162p122节点,所有的存储或者计算节点分配到m162p123、m162p124和m162p133上

下面以zookeeper服务迁移为例来说明如何迁移各组件实例

zookeeper服务旧分布情况:

服务 主机
zookeeper m162p122
zookeeper m162p123
zookeeper m162p124

zookeeper服务迁移计划:

服务 主机
zookeeper m162p123
zookeeper m162p124
zookeeper m162p133

只需要将122的zookeeper服务迁移到133即可,先添加新服务,再卸载旧服务:

停止122上的zookeeper服务:

以上即是Cloudera Manager 6.3.1在CentOS6环境下的一次扩容记录

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,491评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,856评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,745评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,196评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,073评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,112评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,531评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,215评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,485评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,578评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,356评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,215评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,583评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,898评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,497评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,697评论 2 335