聊聊Sentinel流量控制

网络 网络管理
雪崩问题虽然有四种方案(流量控制、熔断降级、线程隔离、超时处理),流量控制是避免服务因突发的流量而发生故障,是对微服务雪崩问题的预防,所以我们先学习Sentinel的流量控制或者说是限流。

今日目标

  • 安装Sentinel
  • 项目整合Sentinel

1.流量控制

雪崩问题虽然有四种方案(流量控制、熔断降级、线程隔离、超时处理),流量控制是避免服务因突发的流量而发生故障,是对微服务雪崩问题的预防,所以我们先学习Sentinel的流量控制或者说是限流。

Sentinel如何做到流量控制?

Sentinel监控SpringMVC的每一个端点(Endpoint),因此SpringMVC的每一个端点(Endpoint)就是调用链路中的一个资源。请求进入微服务时,访问DispatcherServlet,然后进入Controller、Service、Mapper,这样的一个调用链就叫做簇点链路。簇点链路中被监控的每一个接口就是一个资源。

例如,我们刚才访问的order-service中的OrderController中的端点:/order/{Id}

图片图片

后续我们的流控、熔断都将针对簇点链路中的资源进行发起,因此我们可以点击对应资源后面的按钮来设置规则:

  • 流控:流量控制
  • 降级:降级熔断
  • 热点:热点参数限流,是限流的一种
  • 授权:请求的权限控制

2.快速上手

点击编辑资源 /order/{id} 的流控按钮

图片图片

表单中可以填写限流规则,如下:

图片图片

填写单机阈值:2,其含义是:限制资源/order/{id} 的QPS为2,表示每秒只允许2次请求,超过的请求会被拦截并报错。

2.1.测试

快速刷新浏览器时,会发现出现下述错误信息

图片图片

但一般来说生产的流量要更多,此处我们将借助于一个压测工具:Jmeter做更为全面的压力测试

2.2. 利用Jmeter测试

下载

可以Apache Jmeter官网下载,地址:https://jmeter.apache.org/

图片图片

解压

Jmeter下载下来之后,解压缩即可使用,目录结构如下:

图片图片

其中的bin目录就是执行的脚本,其中包含启动脚本:

图片图片

运行

双击jmeter.bat即可运行:

图片图片

Jmeter测试

使用Jmeter测试QPS < 2

图片图片

此规则如下:10个请求在1s内执行完成,此时生效的限流规则上面我们配置的为2(每秒最多2个请求通过)

图片图片

启动

图片图片

运行启动后会发现每秒能通过的请求最多2个(如下展示可能会乱序,以请求时间为准):

图片图片

此时,我们就完成了流量控制的入门效果,这一效果也是流控模式之一的直接模式。

如果您觉得本文不错,欢迎关注,点赞,收藏支持,您的关注是我坚持的动力!

3. Sentinel流控模式

Sentinel添加限流规则时,点击高级选项,可以选择三种流控模式:

  • 直接:统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式
  • 关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
  • 链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流

图片图片

快速入门就是直接模式,也是默认方式

3.1 Sentinel流控-直接模式

什么是Sentinel流控直接模式

直接模式:针对当前资源的请求,触发阈值时就对当前资源直接限流,也是默认的模式。

直接模式适用场景

对于没有明显差异、特殊化场景的都可以采用直接模式,它更简单易用

3.2 Sentinel流控-关联模式

什么是关联模式

关联模式:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流

关联模式适用场景

在一个商城系统中,用户支付时需要修改订单状态,同时用户需要查询订单。查询和修改操作会争抢数据库锁(读速过高影响写、写速过高影响读速度),争抢本身带来的开销会降低整体吞吐量。此时我们需要优先保证修改订单的功能,对查询对单业务限流。即当A触发条件时,被关联的资源B产生限流。

图片图片

关联模式实现关联规则建立如下:

图片图片

规则解释

当访问/write接口次数超过阈值(我们对/write写有自己的流控规则),就会对/read接口进行限流,从而避免对:/write资源的影响

关联规则实战

需求

  • 在OrderController中新建两个端点(http接口):/order/query 和 /order/update
  • 配置关联流控规则:当/update接口访问超过QPS>3时,对/query进行限流

【步骤一】:定义/order/query接口

@GetMapping("/query")
public String queryOrder() {
    return "查询order成功";
}

【步骤二】:定义/order/update接口

@GetMapping("/update")
public String updateOrder() {
    return "更新order成功";
}

【步骤三】 重启服务,查看sentinel控制台的簇点链路

重启SentinelOrderApplication服务后,浏览器访问端点:http://localhost:9092/order/query、http://localhost:9092/order/update,访问Sentinel控制台,查看到新的端点信息:

图片图片

【步骤四】 配置关联流控规则

例子是对/order/query接口进行限流,那么就点击其后面对应按钮。

图片图片

配置流控规则如下:

注意:我们是针对谁做限流,就点击对应资源的流控按钮,此处我们针对:/order/query

图片图片

【步骤五】 Jemter测试配置关联流控

Jmeter压测验证,持续时长10s,qps=10,目的是持续造成超过配置阈值的窗口期,给用户访问验证的时间

可以看到100个用户,10秒,因此QPS为10,超过了我们设定的阈值:3

查看HTTP请求

图片图片

请求的目标是/order/update,这样端点/order/update就会触发阈值。

注意:限流的目标是/order/query,我们在浏览器访问,可以发现:

图片图片

3.3. Sentinel流控-链路模式

什么是链路模式

链路模式:针对从指定链路访问到本资源的请求做统计,判断是否超过阈值

链路模式适用场景

作为业务开发人员,我们有一个订单查询业务,同时输出做页面展现,访问链路:自身系统Controller-->查询订单接口。此时数据团队需要依赖我们的接口做驾驶舱信息,因为我们将查询订单接口暴露给别的团队,即新增一条访问链路:数据团队Controller-->查询订单接口。自身系统的QPS我们根据压测做过合理评估,但是数据团队的请求我们并未考虑,假设有上万的请求过来,我们自身的系统性能也将收到明显影响。此时我们就需要将来自数据团队的调用加上限流。如下

图片图片

链路模式实现例如有两条请求链路:

  • /user --> /userinfo
  • /login --> /userinfo

如果只希望统计从/login进入到/userinfo请求,则可以这样配置:

图片图片

链路规则实战

需求

有查询订单(/query)和创建订单(/createOrder)业务,两者都需要查询商品(service层方法queryGoods)。针对从查询订单进入到查询商品的请求统计,并设置限流。

【步骤一】:定义/order/query接口

@GetMapping("/query")
public String queryOrder() {
    orderService.queryGoods();;
    return "查询order成功";
}

【步骤二】:定义/order/create接口

@GetMapping("/create")
public String createOrder() {
    // 查询商品
    orderService.queryGoods();
    // 查询订单
    System.out.println("新增订单");
    return "新增order成功";
}

【步骤三】:order-service服务中,给OrderService接口添加一个queryGoods方法:

public interface OrderService {

    /**
     * 创建订单
     */
    Long create(Order order);

    void queryGoods();
}

【步骤四】:order-service服务中,给OrderService接口实现了OrderServiceImpl添加一个queryGoods方法:

@Override
@SentinelResource("goods")
public void queryGoods(){
    System.out.println("查询商品");
}

注意:

默认情况下,OrderService中的方法是不被Sentinel监控的,需要我们自己通过注解来标记要监控的方法。

给OrderServiceImpl的queryGoods方法添加@SentinelResource注解

【步骤五】:修改application.ym

链路模式中,是对不同来源的两个链路做监控。但是sentinel默认会给进入SpringMVC的所有请求设置同一个root资源,会导致链路模式失效。

我们需要关闭这种对SpringMVC的资源聚合,修改order-service服务的application.yml文件

spring:
  cloud:
    sentinel:
      web-context-unify: false # 关闭context整合

【步骤六】:给queryGoods设置限流规则,从/order/query进入queryGoods的方法限制QPS必须小于2

注意:设置规则之前同样需要访问才会产生簇点链路,才可以针对性设置规则,因此需要重启服务+访问新接口

图片图片

图片图片

只统计从/order/query进入/goods的资源,QPS阈值为2,超出则被限流。

【步骤七】 Jemter测试配置链路流控

启动Jmeter压测,预期/order/create不受影响,而/order/query最多允许放行流量=2

/order/create

图片图片

图片图片

/order/query

图片图片

图片图片

总结

流控模式有哪些?

  • 直接:对当前资源限流
  • 关联:高优先级资源触发阈值,对低优先级资源限流。
  • 链路:阈值统计时,只统计从指定资源进入当前资源的请求,是对请求来源的限流
责任编辑:武晓燕 来源: springboot葵花宝典
相关推荐

2021-03-22 08:06:59

SpringBootSentinel项目

2023-06-20 08:10:00

2010-02-03 23:04:31

流量控制P2P华夏创新

2011-06-23 09:09:37

流量控制

2013-07-22 14:25:29

iOS开发ASIHTTPRequ

2010-06-04 10:49:58

Linux流量控制

2021-03-09 07:38:15

Percona Xtr流量控制运维

2010-06-17 17:00:07

Linux流量控制

2010-06-04 11:21:42

Linux 流量控制

2009-02-05 10:13:00

局域网流量控制数据流量

2010-08-06 10:02:07

2019-07-02 10:22:15

TCP流量数据

2010-05-27 11:03:44

Linux流量控制

2024-03-04 00:02:00

Redis存储令牌

2010-11-30 09:40:15

流量控制设备AllotQOS策略

2009-10-27 20:14:15

数据传输流量控制网管技巧

2011-08-09 15:52:08

2010-05-27 10:43:29

Linux流量控制

2010-06-13 13:34:47

Linux 流量控制

2009-12-03 10:47:47

路由器功能介绍
点赞
收藏

51CTO技术栈公众号