微服务|SpringCloud Alibaba微服务实战四 - 限流熔断

SpringCloud Alibaba微服务实战四 - 限流熔断
本篇作为SpringCloud Alibaba微服务实战系列的第五篇,主要内容是使用Sentinel给微服务加上限流熔断功能,防止异常情况拖垮应用服务
简介
Sentinel是面向分布式服务框架的轻量级流量控制框架,主要以流量为切入点,从流量控制,熔断降级,系统负载保护等多个维度来维护系统的稳定性。 在SpringCloud体系中,Sentinel主要是为了替换原Hystrix的功能,与Hystrix相比,Sentinel的隔离级别更加精细,提供的Dashboard可以在线更改限流熔断规则,而且使用也越加方便。要了解更多详细信息请移步至Sentinel官网。
【微服务|SpringCloud Alibaba微服务实战四 - 限流熔断】基础准备
要使用Sentinel提供的限流熔断能力,需要先做如下准备:

  • 安装Sentinel
这部分内容我已经在第一期SpringCloud Alibaba微服务实战一 - 基础环境准备中已经实现了
  • 引入Sentinel
在需要配置限流熔断服务的POM文件中引入Sentinel组件
com.alibaba.cloud spring-cloud-starter-alibaba-sentinel

自定义资源@SentinelResource
我们只需要在相关方法上加上@SentinelResource注解,让其可以成为sentinel识别的资源即可。如:
/*** *SentinelResource * @param id * @return *@ blockHandler = "flowHandler"为自定义熔断异常 *@fallback = "fallbackHandler"自定义异常策略 */ @GetMapping("/getAccountByUserid/{id}") @SentinelResource(value = "https://www.it610.com/article/getAccountByUserid", blockHandler = "flowHandler", fallback = "fallbackHandler") public Result getAccountByUserid(@PathVariable("id") Integer id) { //模拟一个异常 //try { //TimeUnit.SECONDS.sleep(1); //睡眠1秒 //} catch (InterruptedException e) { //e.printStackTrace(); //} LambdaQueryWrapper wrapper = new LambdaQueryWrapper<>(); wrapper.eq(Account::getId, id); List accountList = accountService.list(); return Result.ok().data("accountList", accountList).data("port", port); //thrownew RuntimeException("error"); }

/*** * 自定义异常策略 * 返回值参数要和目标函数一样,参数可以追加BlockException * @param id * @param ex * @return */ public Result flowHandler(@PathVariable("id") Integer id, BlockException ex) { //虽然在这里这些参数看似毫无意义,但是在实战中,这些参数我们可以存入到消息队列,配合消息队列或数据库对失败的操作进行一个手动处理 ex.printStackTrace(); return Result.error().message("访问过于频繁,请稍后重试"); }/*** * 自定义熔断异常 * 返回值参数要和目标函数一样,参数可以追加BlockException * @param id * @param * @return * @ fallback = "fallbackHandler" */ public Result fallbackHandler(@PathVariable("id") Integer id) { //虽然在这里这些参数看似毫无意义,但是在实战中,这些参数我们可以存入到消息队列,配合消息队列或数据库对失败的操作进行一个手动处理 //熔断一般出现了异常,或者访问资源超时,都会触发熔断机制 //在一个方法中,熔断和限流都可以同时进行的 return Result.error().message("程序因为不可控原因触发了熔断机制,请稍后重试"); }

  • 在配置文件中添加sentinel的服务端地址
server: port: 8011spring: application: name: account-service cloud: nacos: discovery: server-addr: 192.168.203.129:8848 sentinel: transport: # sentinel服务端地址 dashboard: 192.168.203.129:8080 # 取消延迟加载 eager: true loadbalancer: cache: enabled: false ribbon: enabled: false

经过以上几步我们准备好了使用Sentinel的基础环境,接下来我们看看限流熔断的具体配置。
流控
qps限流与并发线程数限流区别
在创建sentinel的限制规则时有下面这种选择
微服务|SpringCloud Alibaba微服务实战四 - 限流熔断
文章图片

qps是每秒并发的总数
线程并发总数是当前正在处理业务所能承受的最大值
比如我有10个请求同时开始,在没有进入到服务端时,这就是它的QPS,
如果选择qps限流,假设并发有11个有一个肯定会报错
假设有10个请求,每个请求在controller层处理业务需要耗时1秒,
在1一秒内同时请求10次,只有第一次的那个处理业务成功了,其他的都失败
二者一个是将请求拦在外面,一个是让请求进入来,内部处理。
sentinel流控模式有如下几种
微服务|SpringCloud Alibaba微服务实战四 - 限流熔断
文章图片

直接就是直接给出错误提示
关联就是a服务调用b服务,如果b服务挂了那么a服务就会进行限流
熔断
微服务|SpringCloud Alibaba微服务实战四 - 限流熔断
文章图片

熔断降级规则(DegradeRule)包含下面几个重要的属性:
Field 说明 默认值
resource 资源名,即规则的作用对象
grade 熔断策略,支持慢调用比例/异常比例/异常数策略 慢调用比例
count 慢调用比例模式下为慢调用临界 RT(超出该值计为慢调用);异常比例/异常数模式下为对应的阈值
timeWindow 熔断时长,单位为 s
minRequestAmount 熔断触发的最小请求数,请求数小于该值时即使异常比率超出阈值也不会熔断(1.7.0 引入) 5
statIntervalMs 统计时长(单位为 ms),如 60*1000 代表分钟级(1.8.0 引入) 1000 ms
slowRatioThreshold 慢调用比例阈值,仅慢调用比例模式有效(1.8.0 引入)
Sentinel 的断路器是没有半开状态的
限流
概念说明
生产者accout-service是一个核心服务,我们通过压测得出服务的最大负载能力为60。如果某个时间account-service的请求数飙升达到了600,那服务肯定就直接gg了。所以为了保护我们的accout-service,我们会给它配置一个限流规则,如果每秒钟有超过60的请求那不好意思我直接丢掉不处理了,然后丢给消费者一个异常,想拖垮我,哼,没门!。
? 微服务|SpringCloud Alibaba微服务实战四 - 限流熔断
文章图片

总而言之,限流是通过限制调用方对自己的调用,起到保护自己系统的效果。
限流配置
假设我们就将accout-service的QPS单机阈值设置成5,如果每秒QPS超过5,直接丢弃。

    推荐阅读