前言
网关核心功能是路由转发,因此不要有耗时操作在网关上处理,让请求快速转发到后端服务上。
一、Nacos 多环境配置
Nacos也提供了 Namespace (命名空间) 、Data ID (配置集ID)、 Group (组) 来确定一个配置文件(或者叫配置集)
由此,实现多环境配置的方案也有三种:
1、用命名空间(namespace)来区分不同的环境,一个命名空间对应一个环境;
2、用配置组(group)来区分不同的环境,命名空间用默认的public即可,一个组对应一种环境;
3、用配置集ID(Data ID)名称来区分不同的环境,命名空间和组用默认的即可,通过文件命名来区分;
1、利用 Data ID 命名 来区分环境
利用Data ID命名来区分环境,命名空间和组默认即可
在 Nacos Spring Cloud 中,dataId 的完整格式如下:
${prefix}-${spring.profiles.active}.${file-extension}
prefix:默认为 spring.application.name 的值,也可以通过配置项spring.cloud.nacos.config.prefix来配置。
spring.profiles.active:即为当前环境对应的 profile,详情可以参考 Spring Boot文档。 注意:当 spring.profiles.active 为空时,对应的连接符 - 也将不存在,dataId 的拼接格式变成
${prefix}.${file-extension}
file-exetension:为配置内容的数据格式,可以通过配置项 spring.cloud.nacos.config.file-extension 来配置。目前只支持 properties 和 yaml 类型。
2、利用 Group 来区分环境
项目不变,还是使用gateway-center工程,命名空间用默认的public。
启动方式:
java -Dspring.cloud.nacos.config.group=DEV_GROUP -jar gateway-center-0.0.1-SNAPSHOT.jar
java -Dspring.cloud.nacos.config.group=TEST_GROUP -jar gateway-center-0.0.1-SNAPSHOT.jar
java -Dspring.profiles.active=test -Dspring.cloud.nacos.config.group=TEST_GROUP -jar gateway-center-0.0.1-SNAPSHOT.jar
如果是spring.profiles方式的话,这个时候,Data ID 命名就应该是 gateway-center-test.yaml
3、利用 Namespace 区分环境
创建命名空间的时候,如果不指定ID,则自动生成的id就是这样的uuid字符串,我们还是自己指定一个有意义的ID吧
在相关Namespace下创建相关配置
java -Dspring.cloud.nacos.config.namespace=spring-cloud-dev -jar gateway-center-0.0.1-SNAPSHOT.jar
java -Dspring.profiles.active=dev -Dspring.cloud.nacos.config.namespace=spring-cloud-dev -jar gateway-center-0.0.1-SNAPSHOT.jar
java -Dspring.cloud.nacos.config.namespace=spring-cloud-test -jar gateway-center-0.0.1-SNAPSHOT.jar
java -Dspring.profiles.active=test \
-Dspring.cloud.nacos.config.namespace=spring-cloud-test \
-Dspring.cloud.nacos.config.group=TEST_GROUP \
-jar gateway-center-0.0.1-SNAPSHOT.jar
小结:
- 1、用Namespace区分环境,采用spring.profiles机制创建dataId配置文件,而且Namespace有利于做权限控制。
- 2、上面介绍的Nacos 多环境配置方式支持动态刷新。
注意:在spring-cloud-dependencies的Hoxton.SR12版本和spring-cloud-alibaba-dependencies的2.2.6.RELEASE版本中,gateway集成Nacos config配置中心后,gateway可以动态的从Nacos config获取配置文件的变化,并更新到本地缓存,并对路由转发生效。
Nacos Config shared-configs配置方式
利用Nacos Config 的shared-configs配置集的refresh属性可以进行配置的动态刷新(包括路由配置)
spring:
application:
name: service-product
cloud:
nacos:
config:
server-addr: 127.0.0.1:8848 # Nacos配置中心的地址
file-extension: yaml # 配置的格式
#新版本配置方式 可以配置多个
shared-configs[0]:
data_id: all-service.yaml # 要引入的配置
group: DEFAULT_GROUP # 可以不写,默认值为DEFAULT_GROUP
refresh: true # 默认是false,如果需要支持自动刷新需要配置true,搭配@RefreshScope实现动态刷新
#老版本配置方式
#shared-dataids: all-service.yaml # 要引入的配置
#refreshable-dataids: all-service.yaml # 动态刷新时也刷新引入的配置
profiles:
active: test # 环境标识
Nacos Config extension-configs配置方式配置方式
利用Nacos Config 的extension-configs配置集的refresh属性可以进行配置的动态刷新(包括路由配置)
spring:
application:
name: service-product
cloud:
nacos:
config:
server-addr: 127.0.0.1:8848 # Nacos配置中心的地址
file-extension: yaml # 配置的格式
#新版本配置方式 可以配置多个
extension-configs[0]:
data_id: service.yaml # 要引入的配置
group: DEFAULT_GROUP # 可以不写,默认值为DEFAULT_GROUP
refresh: true # 默认是false,如果需要支持自动刷新需要配置true,搭配@RefreshScope实现动态刷新
extension-configs[1]:
data_id: rocketmq.yaml # 要引入的配置
group: DEFAULT_GROUP # 可以不写,默认值为DEFAULT_GROUP
refresh: true # 默认是false,如果需要支持自动刷新需要配置true,搭配@RefreshScope实现动态刷新
profiles:
active: test # 环境标识
总结:
- 1、extension-configs配置也可以实现共享配置,优先级高于 shared-configs。gateway-center-test.yaml优先级最高。
- 2、shared-configs优先级,[0] < [1]。
二、Spring Cloud GateWay整合Nacos Config实现动态路由
Spring Cloud GateWay作为所有微服务请求的入口,路由规则的静态设置是满足不了生产环境的需求的,所以实现动态路由是非常有必要的。
动态路由实现原理
- 1、路由信息不再配置在配置文件中,将路由信息配置在Nacos config的配置中。
- 2、在服务网关Spring Cloud Gateway中开启监听,监听Nacos配置文件的修改。
- 3、Nacos配置文件一旦发生改变,则Spring Cloud Gateway重新刷新自己的路由信息。
引入maven依赖
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>2.3.12.RELEASE</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-config</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
</dependencies>
<dependencyManagement>
<dependencies>
<!--整合Spring Cloud-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>Hoxton.SR12</version>
<type>pom</type>
<scope>import</scope>
</dependency>
<!--整合Spring Cloud Alibaba-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>2.2.6.RELEASE</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
增加系统级引导配置bootstrap.yaml
server:
port: 8081
spring:
application:
name: gateway-center
profiles:
active: dev
---
# 开发环境
spring:
profiles: dev
cloud:
nacos:
discovery:
server-addr: 127.0.0.1:8848
namespace: 784ade72-a3f0-4802-8c44-287376030069
config:
server-addr: 127.0.0.1:8848
namespace: 784ade72-a3f0-4802-8c44-287376030069
file-extension: yaml
# 支持多个共享dataId的配置,优先级小于extension-configs,shared-configs是一个集合
shared-configs[0]:
# redis RrocketMQ等通用配置可以定义在这个里面
dataId: gateway-common.yaml # 配置文件名dataId
group: DEFAULT_GROUP # 默认为DEFAULT_GROUP
refresh: true # 是否动态刷新,默认为false
---
# 测试环境
spring:
profiles: test
cloud:
nacos:
discovery:
server-addr: 127.0.0.1:8848
namespace: c3fdf801-38c6-4dfb-a412-c11b9d64025d
config:
server-addr: 127.0.0.1:8848
namespace: c3fdf801-38c6-4dfb-a412-c11b9d64025d
file-extension: yaml
shared-configs[0]:
dataId: gateway-common.yaml
group: DEFAULT_GROUP
refresh: true
在Nacos Config中创建配置文件
1、 创建gateway-center-dev.yaml文件
该文件中可以配置gateway路由策略,gateway路由策略发生变化可动态更新到gateway-center服务。
spring:
cloud:
gateway:
routes:
- id: auth-center
uri: lb://auth-center
predicates:
- Path=/oauth/**
- id: product-center
uri: lb://product-center
predicates:
- Path=/product/**
- id: order-center
uri: lb://order-center
predicates:
- Path=/order/**
- id: user-center
uri: lb://user-center
predicates:
- Path=/user/**
2、 创建gateway-common.yaml文件
利用Nacos的extension-configs或shared-configs的共享配置机制,配合使用refresh: true进行配置的动态刷新。
该文件中可以配置gateway路由策略,gateway路由策略发生变化可动态更新到gateway-center服务。
spring:
cloud:
gateway:
routes:
- id: auth-center
uri: lb://auth-center
predicates:
- Path=/oauth/**
- id: product-center
uri: lb://product-center
predicates:
- Path=/product/**
- id: order-center
uri: lb://order-center
predicates:
- Path=/order/**
- id: user-center
uri: lb://user-center
predicates:
- Path=/user/**
三、Spring Cloud GateWay + Nacos Config实现灰度发布(reactive版)
应用程序升级面临最大挑战是新旧业务切换,将软件从测试的最后阶段带到生产环境,同时要保证系统不间断提供服务。
互联网大厂产品发布的策略
- 蓝绿发布
- 金丝雀发布
- 灰度发布
- A/B测试
蓝绿发布(Blue-Green Deployment)
通过部署两套环境来解决新老版本的发布问题。如果新版本( New Version )发生问题要进行回滚的时候,直接通过切流将流量全部切到老版本( Old Version )上。
项目逻辑上分为AB组,在项目系统时,首先把A组从负载均衡中摘除,进行新版本的部署。B组仍然继续提供服务。
当A组升级完毕,负载均衡重新接入A组,再把B组从负载列表中摘除,进行新版本的部署。A组重新提供服务。
最后,B组也升级完成,负载均衡重新接入B组,此时,AB组版本都已经升级完成,并且都对外提供服务。
特点
- 如果出问题,影响范围较大。
- 发布策略简单。
- 用户无感知,平滑过渡。
- 升级/回滚速度快。
- 升级切换和回退比发布回滚迅速。
缺点
- 需要准备正常业务使用资源的两倍以上服务器,防止升级期间单组无法承载业务突发;
- 短时间内浪费一定资源成本;
- 基础设施无改动,增大升级稳定性。
蓝绿发布在早期物理服务器时代,还是比较昂贵的,由于云计算普及,成本也大大降低。
金丝雀发布( Canary Release )
金丝雀发布也叫灰度发布,它和滚动发布很像,但是服务的替换是用流量这个维度来做替换的而不是节点这个维度。所以金丝雀发布抽象程度更高。
结合一些业界先进的工具,其实可以做到在不增加机器的情况下流量的平滑过渡,稳定回滚,替换期健康指标检查,替换前后条件核验等,是最推荐的方案。
优点:灵活,策略自定义,可以按照流量或具体的内容进行灰度(比如不同账号,不同参数),出现问题不会影响全网用户。
缺点:没有覆盖到所有的用户导致出现问题不好排查。
灰度发布
阿里巴巴内部有安全生产三板斧概念:可灰度、可观测、可回滚。所有研发同学必须要掌握发布系统的灰度、观测和回滚功能如何使用。
灰度发布只升级部分服务,即让一部分用户继续用老版本,一部分用户开始用新版本,如果用户对新版本没什么意见,那么逐步扩大范围,把所有用户都迁移到新版本上面来。
灰度发布(又名金丝雀发布)是指在黑与白之间,能够平滑过渡的一种发布方式。在其上可以进行A/B testing,即让一部分用户继续用产品特性A,一部分用户开始用产品特性B,如果用户对B没有什么反对意见,那么逐步扩大范围,把所有用户都迁移到B上面来。灰度发布可以保证整体系统的稳定,在初始灰度的时候就可以发现、调整问题,以保证其影响度。
特点
- 保证整体系统稳定性,在初始灰度的时候就可以发现、调整问题,影响范围可控。
- 新功能逐步评估性能,稳定性和健康状况,如果出问题影响范围很小,相对用户体验也少。
- 用户无感知,平滑过渡。
缺点
- 自动化要求高。
部署过程
- 从LB摘掉灰度服务器,升级成功后再加入LB。
- 少量用户流量到新版本。
- 如果灰度服务器测试成功,升级剩余服务器。
灰度发布是通过切换线上并存版本之间的路由权重,逐步从一个版本切换为另一个版本的过程。
滚动发布( Rolling Release )
滚动发布是指每次只升级一个或多个服务,升级完成后加入生产环境,不断执行这个过程,直到集群中的全部旧版本升级新版本。
- 红色:正在更新的实例
- 蓝色:更新完成并加入集群的实例
- 绿色:正在运行的实例
特点
- 用户无感知,平滑过渡。
- 节约资源。
缺点
- 部署时间慢,取决于每阶段更新时间。
- 发布策略较复杂。
- 无法确定OK的环境,不易回滚。
部署过程
- 先升级1个副本,主要做部署验证。
- 每次升级副本,自动从LB上摘掉,升级成功后自动加入集群。
- 事先需要有自动更新策略,分为若干次,每次数量/百分比可配置。
- 回滚是发布的逆过程,先从LB摘掉新版本,再升级老版本,这个过程一般时间比较长。
- 自动化要求高。
A/B测试
首先需要明确的是,A/B测试和蓝绿发布、金丝雀发布、灰度发布等,完全是两回事。
蓝绿部署、金丝雀和灰度发布是发布策略,目标是确保新上线的系统稳定,关注的是新系统的BUG、隐患。
A/B测试是效果测试,同一时间有多个版本的服务对外服务,这些服务都是经过足够测试,达到了上线标准的服务,有差异但是没有新旧之分(它们上线时可能采用了蓝绿部署的方式)。
A/B测试关注的是不同版本的服务的实际效果,譬如说转化率、订单情况等。
A/B测试时,线上同时运行多个版本的服务,这些服务通常会有一些体验上的差异,譬如说页面样式、颜色、操作流程不同。相关人员通过分析各个版本服务的实际效果,选出效果最好的版本。
在A/B测试中,需要能够控制流量的分配,譬如说,为A版本分配10%的流量,为B版本分配10%的流量,为C版本分配80%的流量。
灰度发布(金丝雀发布( Canary Release ))
- 在Nacos Config配置中心对GateWay的路由策略进行更改,设置权重。
spring:
cloud:
gateway:
routes:
# v1和v2服务名不一样
- id: product-center-v1
uri: lb://product-center-v1
predicates:
- Path=/product/**
- weight=product-center-v1, 95
- id: product-center-v2
uri: lb://product-center-v2
predicates:
- Path=/product/**
- weight=product-center-v2, 5
参考:
https://www.cnblogs.com/cjsblog/p/14007311.html
https://www.imooc.com/article/305891
https://blog.csdn.net/weixin_44141495/article/details/110160186
https://blog.csdn.net/qq_43437874/article/details/108433054
https://www.cnblogs.com/nulige/articles/10929182.html