Spring Cloud Ribbon:负载均衡的服务调用

Spring Cloud Ribbon 是Spring Cloud Netflix 子项目的核心组件之一,主要给服务间调用及API网关转发提供负载均衡的功能,本文将对其用法进行详细介绍。

Ribbon简介

在微服务架构中,很多服务都会部署多个,其他服务去调用该服务的时候,如何保证负载均衡是个不得不去考虑的问题。负载均衡可以增加系统的可用性和扩展性,当我们使用RestTemplate来调用其他服务时,Ribbon可以很方便的实现负载均衡功能。

RestTemplate的使用

RestTemplate是一个HTTP客户端,使用它我们可以方便的调用HTTP接口,支持GET、POST、PUT、DELETE等方法。

GET请求方法

<T>TgetForObject(Stringurl,Class<T>responseType,Object...uriVariables);<T>TgetForObject(Stringurl,Class<T>responseType,Map<String,?>uriVariables);<T>TgetForObject(URIurl,Class<T>responseType);<T>ResponseEntity<T>getForEntity(Stringurl,Class<T>responseType,Object...uriVariables);<T>ResponseEntity<T>getForEntity(Stringurl,Class<T>responseType,Map<String,?>uriVariables);<T>ResponseEntity<T>getForEntity(URIvar1,Class<T>responseType);Copy to clipboardErrorCopied

getForObject方法

返回对象为响应体中数据转化成的对象,举例如下:

@GetMapping("/{id}")publicCommonResultgetUser(@PathVariableLongid){returnrestTemplate.getForObject(userServiceUrl+"/user/{1}",CommonResult.class,id);}Copy to clipboardErrorCopied

getForEntity方法

返回对象为ResponseEntity对象,包含了响应中的一些重要信息,比如响应头、响应状态码、响应体等,举例如下:

@GetMapping("/getEntityByUsername")publicCommonResultgetEntityByUsername(@RequestParamStringusername){ResponseEntity<CommonResult>entity=restTemplate.getForEntity(userServiceUrl+"/user/getByUsername?username={1}",CommonResult.class,username);if(entity.getStatusCode().is2xxSuccessful()){returnentity.getBody();}else{returnnewCommonResult("操作失败",500);}}Copy to clipboardErrorCopied

POST请求方法

<T>TpostForObject(Stringurl,@NullableObjectrequest,Class<T>responseType,Object...uriVariables);<T>TpostForObject(Stringurl,@NullableObjectrequest,Class<T>responseType,Map<String,?>uriVariables);<T>TpostForObject(URIurl,@NullableObjectrequest,Class<T>responseType);<T>ResponseEntity<T>postForEntity(Stringurl,@NullableObjectrequest,Class<T>responseType,Object...uriVariables);<T>ResponseEntity<T>postForEntity(Stringurl,@NullableObjectrequest,Class<T>responseType,Map<String,?>uriVariables);<T>ResponseEntity<T>postForEntity(URIurl,@NullableObjectrequest,Class<T>responseType);Copy to clipboardErrorCopied

postForObject示例

@PostMapping("/create")publicCommonResultcreate(@RequestBodyUseruser){returnrestTemplate.postForObject(userServiceUrl+"/user/create",user,CommonResult.class);}Copy to clipboardErrorCopied

postForEntity示例

@PostMapping("/create")publicCommonResultcreate(@RequestBodyUseruser){returnrestTemplate.postForEntity(userServiceUrl+"/user/create",user,CommonResult.class).getBody();}Copy to clipboardErrorCopied

PUT请求方法

voidput(Stringurl,@NullableObjectrequest,Object...uriVariables);voidput(Stringurl,@NullableObjectrequest,Map<String,?>uriVariables);voidput(URIurl,@NullableObjectrequest);Copy to clipboardErrorCopied

PUT请求示例

@PutMapping("/update")publicCommonResultupdate(@RequestBodyUseruser){restTemplate.put(userServiceUrl+"/user/update",user);returnnewCommonResult("操作成功",200);}Copy to clipboardErrorCopied

DELETE请求方法

voiddelete(Stringurl,Object...uriVariables);voiddelete(Stringurl,Map<String,?>uriVariables);voiddelete(URIurl);Copy to clipboardErrorCopied

DELETE请求示例

@DeleteMapping("/delete/{id}")publicCommonResultdelete(@PathVariableLongid){restTemplate.delete(userServiceUrl+"/user/delete/{1}",null,id);returnnewCommonResult("操作成功",200);}Copy to clipboardErrorCopied

创建一个user-service模块

首先我们创建一个user-service,用于给Ribbon提供服务调用。

在pom.xml中添加相关依赖

<dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-netflix-eureka-client</artifactId></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency>Copy to clipboardErrorCopied

在application.yml进行配置

主要是配置了端口和注册中心地址。

server:

  port: 8201

spring:

  application:

    name: user-service

eureka:

  client:

    register-with-eureka: true

    fetch-registry: true

    service-url:

      defaultZone: http://localhost:8001/eureka/Copy to clipboardErrorCopied

添加UserController用于提供调用接口

UserController类定义了对User对象常见的CRUD接口。

/**

* Created by macro on 2019/8/29.

*/@RestController@RequestMapping("/user")publicclassUserController{privateLoggerLOGGER=LoggerFactory.getLogger(this.getClass());@AutowiredprivateUserServiceuserService;@PostMapping("/create")publicCommonResultcreate(@RequestBodyUseruser){userService.create(user);returnnewCommonResult("操作成功",200);}@GetMapping("/{id}")publicCommonResult<User>getUser(@PathVariableLongid){Useruser=userService.getUser(id);LOGGER.info("根据id获取用户信息,用户名称为:{}",user.getUsername());returnnewCommonResult<>(user);}@GetMapping("/getUserByIds")publicCommonResult<List<User>>getUserByIds(@RequestParamList<Long>ids){List<User>userList=userService.getUserByIds(ids);LOGGER.info("根据ids获取用户信息,用户列表为:{}",userList);returnnewCommonResult<>(userList);}@GetMapping("/getByUsername")publicCommonResult<User>getByUsername(@RequestParamStringusername){Useruser=userService.getByUsername(username);returnnewCommonResult<>(user);}@PostMapping("/update")publicCommonResultupdate(@RequestBodyUseruser){userService.update(user);returnnewCommonResult("操作成功",200);}@PostMapping("/delete/{id}")publicCommonResultdelete(@PathVariableLongid){userService.delete(id);returnnewCommonResult("操作成功",200);}}Copy to clipboardErrorCopied

创建一个ribbon-service模块

这里我们创建一个ribbon-service模块来调用user-service模块演示负载均衡的服务调用。

在pom.xml中添加相关依赖

<dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-netflix-eureka-client</artifactId></dependency><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-netflix-ribbon</artifactId></dependency>Copy to clipboardErrorCopied

在application.yml进行配置

主要是配置了端口、注册中心地址及user-service的调用路径。

server:

  port: 8301

spring:

  application:

    name: ribbon-service

eureka:

  client:

    register-with-eureka: true

    fetch-registry: true

    service-url:

      defaultZone: http://localhost:8001/eureka/

service-url:

  user-service: http://user-serviceCopy to clipboardErrorCopied

使用@LoadBalanced注解赋予RestTemplate负载均衡的能力

可以看出使用Ribbon的负载均衡功能非常简单,和直接使用RestTemplate没什么两样,只需给RestTemplate添加一个@LoadBalanced即可。

/**

* Created by macro on 2019/8/29.

*/@ConfigurationpublicclassRibbonConfig{@Bean@LoadBalancedpublicRestTemplaterestTemplate(){returnnewRestTemplate();}}Copy to clipboardErrorCopied

添加UserRibbonController类

注入RestTemplate,使用其调用user-service中提供的相关接口,这里对GET和POST调用进行了演示,其他方法调用均可参考。

/**

* Created by macro on 2019/8/29.

*/@RestController@RequestMapping("/user")publicclassUserRibbonController{@AutowiredprivateRestTemplaterestTemplate;@Value("${service-url.user-service}")privateStringuserServiceUrl;@GetMapping("/{id}")publicCommonResultgetUser(@PathVariableLongid){returnrestTemplate.getForObject(userServiceUrl+"/user/{1}",CommonResult.class,id);}@GetMapping("/getByUsername")publicCommonResultgetByUsername(@RequestParamStringusername){returnrestTemplate.getForObject(userServiceUrl+"/user/getByUsername?username={1}",CommonResult.class,username);}@GetMapping("/getEntityByUsername")publicCommonResultgetEntityByUsername(@RequestParamStringusername){ResponseEntity<CommonResult>entity=restTemplate.getForEntity(userServiceUrl+"/user/getByUsername?username={1}",CommonResult.class,username);if(entity.getStatusCode().is2xxSuccessful()){returnentity.getBody();}else{returnnewCommonResult("操作失败",500);}}@PostMapping("/create")publicCommonResultcreate(@RequestBodyUseruser){returnrestTemplate.postForObject(userServiceUrl+"/user/create",user,CommonResult.class);}@PostMapping("/update")publicCommonResultupdate(@RequestBodyUseruser){returnrestTemplate.postForObject(userServiceUrl+"/user/update",user,CommonResult.class);}@PostMapping("/delete/{id}")publicCommonResultdelete(@PathVariableLongid){returnrestTemplate.postForObject(userServiceUrl+"/user/delete/{1}",null,CommonResult.class,id);}}Copy to clipboardErrorCopied

负载均衡功能演示

启动eureka-server于8001端口;

启动user-service于8201端口;

启动另一个user-service于8202端口,可以通过修改IDEA中的SpringBoot的启动配置实现:

此时运行中的服务如下:

调用接口进行测试:http://localhost:8301/user/1

可以发现运行在8201和8202的user-service控制台交替打印如下信息:

Ribbon的常用配置

全局配置

ribbon:

  ConnectTimeout: 1000 #服务请求连接超时时间(毫秒)

  ReadTimeout: 3000 #服务请求处理超时时间(毫秒)

  OkToRetryOnAllOperations: true #对超时请求启用重试机制

  MaxAutoRetriesNextServer: 1 #切换重试实例的最大个数

  MaxAutoRetries: 1 # 切换实例后重试最大次数

  NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #修改负载均衡算法Copy to clipboardErrorCopied

指定服务进行配置

与全局配置的区别就是ribbon节点挂在服务名称下面,如下是对ribbon-service调用user-service时的单独配置。

user-service:

  ribbon:

    ConnectTimeout: 1000 #服务请求连接超时时间(毫秒)

    ReadTimeout: 3000 #服务请求处理超时时间(毫秒)

    OkToRetryOnAllOperations: true #对超时请求启用重试机制

    MaxAutoRetriesNextServer: 1 #切换重试实例的最大个数

    MaxAutoRetries: 1 # 切换实例后重试最大次数

    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #修改负载均衡算法Copy to clipboardErrorCopied

Ribbon的负载均衡策略

所谓的负载均衡策略,就是当A服务调用B服务时,此时B服务有多个实例,这时A服务以何种方式来选择调用的B实例,ribbon可以选择以下几种负载均衡策略。

com.netflix.loadbalancer.RandomRule:从提供服务的实例中以随机的方式;

com.netflix.loadbalancer.RoundRobinRule:以线性轮询的方式,就是维护一个计数器,从提供服务的实例中按顺序选取,第一次选第一个,第二次选第二个,以此类推,到最后一个以后再从头来过;

com.netflix.loadbalancer.RetryRule:在RoundRobinRule的基础上添加重试机制,即在指定的重试时间内,反复使用线性轮询策略来选择可用实例;

com.netflix.loadbalancer.WeightedResponseTimeRule:对RoundRobinRule的扩展,响应速度越快的实例选择权重越大,越容易被选择;

com.netflix.loadbalancer.BestAvailableRule:选择并发较小的实例;

com.netflix.loadbalancer.AvailabilityFilteringRule:先过滤掉故障实例,再选择并发较小的实例;

com.netflix.loadbalancer.ZoneAwareLoadBalancer:采用双重过滤,同时过滤不是同一区域的实例和故障实例,选择并发较小的实例。

使用到的模块

springcloud-learning

├── eureka-server -- eureka注册中心

├── user-service -- 提供User对象CRUD接口的服务

└── ribbon-service -- ribbon服务调用测试服务

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,911评论 5 460
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,014评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 142,129评论 0 320
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,283评论 1 264
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,159评论 4 357
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,161评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,565评论 3 382
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,251评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,531评论 1 292
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,619评论 2 310
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,383评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,255评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,624评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,916评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,199评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,553评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,756评论 2 335