Postgres SQL集群搭建-主备

1.概念

数据库热备:数据库热备是指为主数据库的创建、维护和监控一个或多个备用数据库,它们时刻处于开机状态,同主机保持同步。当主机失灵时,可以随时启用热备数据库来代替,以保护数据不受故障、灾难、错误和崩溃的影响。

流复制(streaming replication):PostgreSQL提供的一种服务器间的数据复制方式。这种方式下,后备服务器连接到主服务器,主服务器则在 WAL 记录产生时即将它们以流式传送给后备服务器而不必等到 WAL 文件被填充。


2.环境说明

  • 服务器
host IP cpu 内存 硬盘
master 172.28.130.118 8核 32G 200G
slave 172.28.130.120 8核 32G 200G
  • 操作系统
[root@master ~]# cat /etc/redhat-release
CentOS Linux release 7.4.1708 (Core)
  • Postgres Sql
    版本: 9.6

3. 安装 Postgres sql 9.6

3.1 添加RPM

yum install https://download.postgresql.org/pub/repos/yum/reporpms/EL-7-x86_64/pgdg-redhat-repo-latest.noarch.rpm

注意:
非centos操作系统,或者以上安装源地址无效,可以去postgres sql的官网获取最新的安装源和安装脚本,地址如下:
https://www.postgresql.org/download/linux/redhat/

image.png

3.2 在主从节点,安装PostgreSQL

yum install postgresql96-server postgresql96-contrib

3.3 初始化数据库

默认数据文件存储目录

/usr/pgsql-9.6/bin/postgresql96-setup initdb

自定义数据文件存储目录

  • 创建数据库目录
mkdir -p /data/db
  • 修改数据库目录owner和group
chown postgres:postgres /data/db
  • 设置环境变量
    /etc/profile文件最后加上以下配置
export PATH=/usr/pgsql-9.6/bin:$PATH
export LD_LIBRARY_PATH=/usr/pgsql-9.6/lib
export PGDATA=/data/db

在命令行执行以下命令,让环境变量生效

source /etc/profile
  • 初始化数据库
su postgres
initdb -D /data/db
  • 配置service中的数据文件路径
    修改/usr/lib/systemd/system/postgresql-9.6.service
Environment=PGDATA=/var/lib/pgsql/9.6/data/

改为

Environment=PGDATA=/data/db

3.4 开启远程访问

修改postgresql.conf文件(该文件在数据文件目录下),将listen_addresses改为

listen_addresses='*'

3.5 设置开机自启动

systemctl enable postgresql-9.6.service

3.6 启动服务

systemctl start postgresql-9.6.service

3.7 打开防火墙

firewall-cmd --zone=public --add-port=5432/tcp --permanent
firewall-cmd --reload

4.配置集群

4.1 主节点配置

4.1.1 创建用于流复制的用户

登陆Pgsql

psql -h 127.0.0.1 -U postgres

进入pgsql命令行,执行创建pgsql用户命令

create user repuser with login replication password '123456';

4.1.2 修改pg_hba.conf文件

#允许所有用户通过密码远程访问
host    all             all             0.0.0.0/0               md5
#允许172.28.130.0 ip段的客户端通过用户repuser登陆,用于流复制
host     replication     repuser         172.28.130.0/24         md5

4.1.3 在主节点的postgresql.conf 中设置参数

max_wal_senders = 10
wal_level = replica
wal_log_hints = on
wal_keep_segments = 10
wal_receiver_status_interval = 5s
hot_standby_feedback = on
max_replication_slots = 6

这些参数中的含义如下:

  • max_wal_senders表示来自后备服务器或流式基础备份客户端的并发连接的最大数量;

  • wal_level 表示日志级别,对于流复制,它的值应设置为replica;

  • wal_log_hints = on表示,在PostgreSQL服务器一个检查点之后页面被第一次修改期间,把该磁盘页面的整个内容都写入 WAL,即使对所谓的提示位做非关键修改也会这样做;

  • wal_keep_segments 指定在后备服务器需要为流复制获取日志段文件的情况下,pg_wal(PostgreSQL 9.6 以下版本的是pg_xlog)目录下所能保留的过去日志文件段的最小数目。

  • log_connections 表示是否在日志中记录客户端对服务器的连接;

  • wal_receiver_status_interval 指定在后备机上的 WAL 接收者进程向主服务器或上游后备机发送有关复制进度的信息的最小周期;

  • hot_standby_feedback 指定一个热后备机是否将会向主服务器或上游后备机发送有关于后备机上当前正被执行的查询的反馈,这里设置为on。

关于详细内容,可以参考postgresql官方文档。

4.1.4 重启之后,为主服务器和后备服务器创建复制槽(这一步不是必须的)

select * from pg_create_physical_replication_slot('postgresql_node101');

select * from pg_create_physical_replication_slot(' postgresql_node102');

复制槽(replication slot)的作用是:

a. 在流复制中,当一个备节点断开连接是时,备节点通过hot_standby_feedback 提供反馈数据数据会丢失。当备节点重新连接时,它可能因为被主节点发送清理记录而引发查询冲突。复制槽即使在备节点断开时仍然会记录下备节点的xmin(复制槽要需要数据库保留的最旧事务ID)值,从而确保不会有清理冲突。

b. 当一个备节点断开连接时,备节点需要的WAL文件信息也丢失了。如果没有复制槽,当备节点重连时,我们可能已经丢弃了所需要的WAL文件,因此需要完全重建备节点。而复制槽确保这个节点保留所有下游节点需要的wal文件。

4.2 配置从节点

4.2.1 停止从节点服务

systemctl stop postgresql-9.6.service

4.2.2 删除从节点的数据目录,创建空的数据目录

  • 清空
rm -rf /data/db
  • 创建数据库目录
mkdir -p /data/db
  • 修改数据库目录owner和group
chown postgres:postgres /data/db
chmod 700 /data/db

注意:这里数据目录需要设置为700权限,否则,pgsql启动不了

4.2.3 备份

su - postgres
pg_basebackup -Xs -d "hostaddr=172.28.130.118 port=5432 user=repuser password=123456" -D /data/db -v -Fp 
  • -Xs 表示复制方式是流式的(stream),这种方式不会复制在此次备份开始前,已经归档完成的WAL文件
  • -d 后面是一个连接字符串,其中“hostaddr= 172.28.130.118”表示主服务器的ip地址是172.28.130.118
  • “port=5432”表示数据库的端口是5432
  • “user=repuser”表示用于流复制的用户是repuser
  • “password=123456”表示密码是123456
  • “-D /data/db” 表示将备份内容输入到本地的 /data/db目录
  • “-v”表示打印详细信息,–Fp 表示复制结果输出位普通(plain)文件

4.2.4 配置从节点

1). 修改postgresql.conf 文件

hot_standby = on

2). 配置 recovery.conf:
复制文件

cp /usr/pgsql-9.6/share/recovery.conf.sample /data/db/recovery.conf

设置参数:

recovery_target_timeline = 'latest'
standby_mode = on
primary_conninfo = 'host=172.28.130.118 port=5432 user=repuser password=123456'
primary_slot_name = 'postgresql_node102'
trigger_file = 'tgfile'

这些参数的含义如下:

  • recovery_target_timeline 表示恢复到数据库时间线的上的什么时间点,这里设置为latest,即最新。

  • standby_mode 表示是否将PostgreSQL服务器作为一个后备服务器启动,这里设置为on,即后备模式。

  • primary_conninfo指定后备服务器用来连接主服务器的连接字符串,其中“host= 172.28.130.118”表示主服务器的ip地址是172.28.130.118,“port=5432”表示数据库的端口是5432,“user=repuser”表示用于流复制的用户是repuser, “password=123456”表示密码是123456。

  • primary_slot_name 指定通过流复制连接到主服务器时使用一个现有的复制槽来控制上游节点上的资源移除。这里我们指定3.2.1节创建的postgresql_node102。如果没有在主服务器上创建复制槽,则不配置此参数。

  • trigger_file指定一个触发器文件,该文件的存在会结束后备机中的恢复,使它成为主机。

4.2.5 启动备节点服务:

systemctl start postgresql-9.6.service

5. 主备环境检测

5.1 在主节点上创建一个表,并插入数据:

 create table student  (id int, name text);
 insert into student  (id, name)  values  (1,'tom');

5.2 在从节点上检测

select * from student;

结果如下:

id | name

----+------

1 | tom

主节点数据同步到了备机。

同时,在备节点上写数据会失败:

 insert into student (id, name)  values  (2,'amy');

执行插入语句有出现一下错误提示:
ERROR: cannot execute INSERT in a read-only transaction

5.3 其他检查

主库上执行如下命令返回f,备库上返回t。

select pg_is_in_recovery();

执行如下命令查看快照,它返回主库记录点、备库记录点;主库每增加一条写入,记录点的值就会加1。

select txid_current_snapshot();

执行如下命令可以查看主备同步状态。

select * from pg_stat_replication;

字段state显示的同步状态有:startup(连接中)、catchup(同步中)、streaming(同步);字段sync_state显示的模式有:async(异步)、sync(同步)、potential(虽然现在是异步模式,但是有可能升级到同步模式)。

6. 主备环境的切换

6.1 激活备节点,使之成为新的主结点

pg_ctl promote -D $PGDATA

结果是:

waiting for server to promote........ done
server promoted

6.2 查看新主节点的状态

pg_controldata | grep cluster

Database cluster state: in production

插入一条数据:

insert into student (id, name)  values  (2,'amy');

INSERT 0 1

6.3 停止旧的主结点

pg_ctl stop -m fast -D $PGDATA

结果:

waiting for server to shut down.... done

server stopped

6.4 在停止的旧主结点上执行恢复数据的操作

pg_rewind --target-pgdata $PGDATA --source-server='host= 172.28.130.118 port=5432 user=postgres dbname=postgres' -P

结果如下:

connected to server

servers diverged at WAL location 0/2B000230 on timeline 4

rewinding from last common checkpoint at 0/2A000098 on timeline 4

reading source file list

reading target file list

reading WAL in target

need to copy 57 MB (total source directory size is 143 MB)

58749/58749 kB (100%) copied

creating backup label and updating control file

syncing target data directory

Done!

表示从新主节点上成功获取WAL日志。

6.5 重新配置旧主结点的 recovery.conf

recovery_target_timeline = 'latest'
standby_mode = on
primary_conninfo = 'hostaddr= 172.28.130.120 port=5432 user=repuser password=123456'
primary_slot_name = 'postgresql_node101'

6.6 在旧主结点上执行下面的命令,重新启动该节点

systemctl start postgresql-9.6.service

  1. 在旧主结点上验证:
 insert into student (id, name)  values  (3,'lily');

ERROR: cannot execute INSERT in a read-only transaction

现在,它成为了新的备节点。

这样,我们就实现了linux下的主备节点的切换。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,088评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,715评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,361评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,099评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 60,987评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,063评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,486评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,175评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,440评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,518评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,305评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,190评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,550评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,880评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,152评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,451评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,637评论 2 335