cdh6.3.2安装部署

# cdh 6.3.2部署安装

## 版本信息

| 节点      | ip地址                                    | mysql    | parcel文件离线源 | cm    | cdh  |

| ------- | --------------------------------------- | -------- | ----------- | ----- | ----- |

| hadoop1 | 172.31.66.128            172.31.182.223 |          | parcel      | 6.3.1 | 6.3.2 |

| hadoop2 | 172.31.66.129                          | mysql5.7 |            | 6.3.1 | 6.3.2 |

| hadoop3 | 172.31.66.130                          |          |            | 6.3.1 | 6.3.2 |

## 下载地址

### cm 6.3.1

```

https://archive.cloudera.com/cm6/6.3.1/repo-as-tarball/cm6.3.1-redhat7.tar.gz

```

### cdh 6.3.2

```

https://archive.cloudera.com/cdh6/6.3.2/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel

https://archive.cloudera.com/cdh6/6.3.2/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel.sha1

https://archive.cloudera.com/cdh6/6.3.2/parcels/manifest.json

```

### jdk

```

https://www.oracle.com/technetwork/java/javase/downloads/java-archive-javase8-2177648.html

```

### mysql

```

https://dev.mysql.com/downloads/mysql/5.7.html#downloads

```

### mysql jdbc jar:

```

https://dev.mysql.com/downloads/connector/j/

```

## 环境部署

### 1 修改集群节点基本信息

```

修改集群节点hadoop1信息:

  1 hostnamectl set-hostname hadoop1.example.com

  2 设置所有节点的hosts文件

  172.31.66.128 hadoop1.example.com hadoop1

  172.31.66.129 hadoop2.example.com hadoop2

  172.31.66.130 hadoop3.example.com hadoop3

  3 关闭防火墙

  systemctl stop firewalld

  systemctl disable firewalld

  4 修改selinux配置信息

  vim /etc/selinux/config

    将selinux=enforcing改为disabled

  5 设置集群各节点之间免秘钥登录

  ssh-keygen

  ssh-copy-id root@hadoop2

  ssh-copy-id root@hadoop3

集群节点hadoop2、hadoop3参照节点1的部署修改基本信息

```

### 2 设置集群时钟同步

```

所有节点安装ntp

yum install ntp

修改ntp服务器配置,将所有节点的ntp同步指向hadoop1

如下hadoop1服务器ntp配置文件:

driftfile /var/lib/ntp/drift

restrict default nomodify notrap nopeer noquery

restrict 127.0.0.1

restrict ::1

server 127.127.1.0                        //该行如下面一行表示以本地时钟为同步时钟源

fudge 127.127.1.0 stratum 10

includefile /etc/ntp/crypto/pw

keys /etc/ntp/keys

disable monitor

You have new mail in /var/spool/mail/root

hadoop2、hadoop3服务器ntp配置文件如下:

driftfile /var/lib/ntp/drift

restrict default nomodify notrap nopeer noquery

restrict 127.0.0.1

restrict ::1

server 172.31.66.128                      //服务器时钟同步指向hadoop1

includefile /etc/ntp/crypto/pw

keys /etc/ntp/keys

disable monitor

```

### 3部署jdk

```

hadoop集群所有节点部署jdk

```

### 4 离线安装部署mysql

```

创建cdh的元数据库和用户、amon服务的数据库

create database cmf default character utf8;

create database amon default character set utf8;

grant all on cmf.* to 'cmf'@'%' identified by 'admin123';

grant all on amon.* to 'amon'@'%' identified by 'admin123';

flush privileges;

```

### 5 hadoop1节点部署mysql jdbc jar

```

将下载的jar包安装部署在/usr/share/java目录下,并将其重命名为mysql-connector-java.jar,否则在启动服务的时候会报错

```

### 6 hadoop1节点作为master节点,安装如下安装包(不下载依赖包直接部署)

```

解压下载的cm文件,安装相应的安装包

rpm -ivh cloudera-manager-server-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

rpm -ivh cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

rpm -ivh cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

安装好相应安装包后修改hadoop1节点angent指向

sed -i "s/server_host=localhost/server_host=hadoop1/g" /etc/cloudera-scm-agent/config.ini

修改主节点server配置

com.cloudera.cmf.db.type=mysql

com.cloudera.cmf.db.host=hadoop2.example.com

com.cloudera.cmf.db.name=cmf

com.cloudera.cmf.db.user=cmf

com.cloudera.cmf.db.password=admin23

com.cloudera.cmf.db.setupType=EXTERNAL

```

### 7 集群中除去Hadoop1节点安装如下安装包

```

解压下载的cm文件,安装相应的安装包

rpm -ivh cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

rpm -ivh cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm --nodeps --force

安装好相应安装包后修改hadoop1节点angent指向

sed -i "s/server_host=localhost/server_host=hadoop1/g" /etc/cloudera-scm-agent/config.ini

```

### 8部署parcel源

```

采用hadoop1作为httpd服务地址

yum install httpd -y

将下载菜单cdh的安装包解压到/var/www/html下

[root@hadoop1 java]# ls /var/www/html/cdh6_parcel

CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel  CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel.sha(注意这个文件)  manifest.json

```

### 9启动server服务

```

systemctl start cloudera-scm-server

如果无法启动成功,查看日志进行解决

tailf /var/log/cloudera-scm-server/cloudera-scm-server.log

```

### 10 所有节点启动agent服务

```

systemctl start cloudera-scm-agent

```

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342