sentinel配置测试示例

一.**** 阈值类型和流控模式

image.png

界面配置专业词汇概述:

image.png

1.****阈值类型 QPS、流控模式 直接

测试代码service

image.png

测试代码限流代码(参数和返回类型必须和@SentinelResource注解的方法一样,最后一个参数为BlockException)

image.png

控制层代码

image.png

修改 limit请求的流控规则,如下图所示: 默认的高级设置为:
image.png

每秒允许请求数为 5

image.png

请求并进行测试:

测试需要讲究快速点击、缓慢点击

· 缓慢点击
image.png

· JMeter多线程测试快速点击

·
image.png
image.png

表示1秒内,查询5次请求OK; 如果请求在1秒内的次数高于5次,则进入快速失败流程,进入熔断限制函数中!

2.****阈值类型 线程数、流控模式 直接

Service

image.png

Controller

image.png

/testThreadLimit的请求限流配置,设置为线程数。
image.png
单个请求:
image.png
了解 QPS 和线程数这两种方式的区别:
image.png

Jmeter10个线程请求测试:

image.png

限流了

image.png

3.****阈值类型 QPS、流控模式 关联

此次的配置采取如下方式:

当关联的资源达到限流条件时,开启限流 配置请求 /test2 限流QPS,关联 /test1
image.png

文档解释现象:

/test1 与 /test2 有关联关系。 若 /test2 达到阈值时,会对 /test1 进行限流!

实用背景:

下单和支付接口进行关联。 如若支付接口达到阈值,就限定下单接口少产生支付接口,缓解压力!
image.png
image.png

如何进行测试呢?

1、正常请求 /test1,无关乎快速还是缓慢,都会是正常返回信息。 2、循环不断请求/test2,触发该接口的限流操作。 3、再次请求/test1,查看请求回执状态信息。

正常请求/test1:

http://localhost:8500/test1 无论快慢,都是返回下列信息!

image.png

使用postman、jmeter等工具,迭代请求/test2,触发限流后,再次请求/test1查看回执状态信息:

image.png
image.png

运行 postman,浏览器访问:http://localhost:8500/test1

现象:

image.png
image.png

当/test2触发了限流,此时的/test1请求将会受到影响! 当/test2限流结束,/test1才能继续请求得到回执!

4.****QPS、链路

链路:当从某个接口过来的资源达到限流条件时,开启限流。

链路流控是针对上级接口!

二.****Sentinel 流控效果

此处的效果测试,均采用 阈值类型:QPS、流控模式:直接。

1.****直接

直接失败,抛出异常,不做任何额外处理,是最简单的方式。

image.png
image.png

2.****Warm Up

从开始阈值,到最大QPS阈值会有一个缓冲阶段, 一开始的阈值是最大QPS阈值的1/3,然后缓慢增长,直到最大阈值,适用于突然增大的流量转化为缓步增长。 避免突然大流量造成服务器的宕机!

image.png

阈值最初为10; 最初的处理请求数最大为:10/3=3; 在5s时间内,由3缓慢升为10。

突然出现大量请求,不会直接进行实际处理,会将请求预热后在做处理!

3.****排队等待

让请求以均匀的速率通过,单机阈值为每秒通过的请求数,其余的排队等待; 其次,还可以设置一个排队等待的超时时间,若请求在超时时间内还未被处理,则会被丢弃。

image.png

达到的目的: 匀速处理多个请求,而不是一开始超过阈值的请求直接失败!

image.png

设置 Jmeter 一个线程每秒钟访问俩次:
image.png
image.png

打印日志信息:
image.png

观察发现: 每秒钟限定处理一个请求数。 但是jmeter每秒钟发送2个请求。 设置了延迟等待 500ms后,只有少数请求会进入降级!

三.****Sentinel熔断降级

image.png

· 平均响应时间 (DEGRADE_GRADE_RT):当 1s 内持续进入 N 个请求,对应时刻的平均响应时间(秒级)均超过阈值(count,以 ms 为单位),那么在接下的时间窗口(DegradeRule 中的timeWindow,以 s 为单位)之内,对这个方法的调用都会自动地熔断(抛出 DegradeException)。注意Sentinel 默认统计的 RT 上限是 4900 ms,超出此阈值的都会算作 4900 ms,若需要变更此上限可以通过启动配置项-Dcsp.sentinel.statistic.max.rt=xxx 来配置。

· 异常比例 (DEGRADE_GRADE_EXCEPTION_RATIO):当资源的每秒请求量 >= N(可配置),并且每秒异常总数占通过量的比值超过阈值(DegradeRule 中的 count)之后,资源进入降级状态,即在接下的时间窗口(DegradeRule 中的 timeWindow,以 s 为单位)之内,对这个方法的调用都会自动地返回。异常比率的阈值范围是 [0.0, 1.0],代表 0% - 100%。

· 异常数 (DEGRADE_GRADE_EXCEPTION_COUNT):当资源近 1 分钟的异常数目超过阈值之后会进行熔断。注意由于统计时间窗口是分钟级别的,若 timeWindow 小于 60s,则结束熔断状态后仍可能再进入熔断状态。

1、RT 平均响应时间

1、如果请求的平均响应数超过阈值(ms),则会进入准降级状态。 2、如果接下来1s内持续进入5个请求,他们的RT都持续超过了这个阈值,那么在接下来的时间窗口(s)内,就会对这个服务进行降级。 3、RT默认最大为4900ms,如果需要更大,可以通过 -Dcsp.sentinel.statistic.max.rt=xxx 进行配置。

image.png

配置案例: java代码逻辑为:

image.png
image.png

先进行请求,然后sentinel中配置图如下:
image.png
请求测试:

1、正常请求:
image.png

不会出现熔断保护。 2、异常请求: http://localhost:8500/jiangji?name=1

image.png

熔断保护时间内,请求正常流程:
image.png
保护时间过后,在请求正常流程:
image.png
image.png

[总结]

1、配置熔断保护的接口,如果不出现超时情况时,不会触发熔断保护降级。 2、当设定RT为400ms后,请求异常流程,1s内平均请求响应都超时并达到对应的数目(测试显示5个),会触发熔断保护,并保护10s(这个时间是时间窗口的配置)。 3、熔断保护期间内,正常请求也会被熔断、降级。 4、10s后,熔断结束,会重新对请求响应时间进行统计判断。

2、异常比例数

每秒的异常总数,占通过量的比值超过配置的值之后,触发熔断降级。 时间窗口和之前一样,属于熔断保护时间。 占的比值数范围为:[0.0,1.0];

代码案例:

image.png

暂时未配置时,当请求数每次达到 a % 2== 0时,就会产生异常:

image.png

配置Sentinel,使得其具备熔断降级的策略:
image.png

由于 a % 2 == 0触发异常,也就是说异常比例为 1/2。只需要配置的数小于 1/2即可。

image.png

请求测试:

image.png

正常缓慢请求时,依然和之前一致,出现报错信息。 当请求异常比例大于等于配置数时,出现熔断降级。

image.png

3、异常数

资源 1分钟 内的异常总数超过限定的阈值,触发熔断降级!

设定异常数为3,表示一分钟请求的异常出现了3个及以上,触发熔断降级!

[注意]此处有坑!

由于异常数是按照分钟统计的个数,时间窗口中的设置也必须要大于60s。 不然会出现:结束熔断保护后仍可能继续熔断保护(不会释放!)

请求测试:

当请求出现异常的次数达到设定的值时,立马出现熔断降级现象。
image.png

当熔断保护的时间过了之后,释放,再次请求会重新进行统计!
image.png

四****、Sentinel热点规则

热点参数流控规则。

何为热点:

热点即经常访问的数据。

热点限流的思想是什么?

假设某一时间段内的某个用户频繁的去访问,就可以采取热点规则方式,对其进行限流操作。

1、初级配置和测试

案例测试:

image.png

当不配置任何规则时,此时的回执信息为:

image.png

配置Sentinel中的热点规则属性。
image.png

当请求地址携带p1参数,且每秒钟的请求数高于配置的1次时,触发降级。

请求测试:

1、不携带参数,快速点击

image.png

2、携带参数,但不携带p1,快速点击

image.png

3、携带p1参数,缓慢点击

image.png

4、携带p1参数,快速点击

image.png

高级配置

针对个别用户频繁访问时,采取了限流操作(按照参数接受类型,但不是具体的数值)。 但是,针对管理员频繁的访问查看或测试数据时,此时不应限流。

配置项:

达到的目的,当p1为520时,限流量放大!

image.png
image.png

请求测试:

1、缓慢请求,p1非特定值
image.png

2、快速请求,p1非特定值
image.png

3、缓慢请求,p1为特定值
image.png

4、快速请求,p1为特定值(每秒请求大于3才触发限流)

image.png
image.png
image.png

Sentinel系统自适应限流

之前的配置操作,采取的是针对单个请求地址、请求别名进行配置的限流操作,sentinel同时也提供了一种很潮流的方式实现配置操作—系统自适应限流。

何为系统自适应限流?

Sentinel 系统自适应限流从整体维度对应用入口流量进行控制,结合应用的 Load、CPU 使用率、总体平均 RT、入口 QPS和并发线程数等几个维度的监控指标,通过自适应的流控策略,让系统的入口流量和系统的负载达到一个平衡,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

系统自适应限流

文档中,对系统自适应限流有如下几种配置:
image.png

阈值类型的含义如下所示:

· Load 自适应(****仅支持Linux/Unix-like****) 系统的 load1 作为启发指标,进行自适应系统保护。当系统 load1 超过设定的启发值,且系统当前的并发线程数超过估算的系统容量时才会触发系统保护(BBR 阶段)。系统容量由系统的 maxQps * minRt 估算得出。设定参考值一般是 CPU cores * 2.5。(系统核心数*2.5)

· CPU usage(****1.5.0+ 版本****) 当系统 CPU 使用率超过阈值即触发系统保护(取值范围 0.0-1.0),比较灵敏。

· 平均 RT 当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护,单位是毫秒。

· 并发线程数 当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。

· 入口 QPS 当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。

配置案例: 配置入口QPS

image.png

只配置 QPS 项,其他流控模式未配置。

©著作权归作者所有,转载或内容合作请联系作者
禁止转载,如需转载请通过简信或评论联系作者。
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,445评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,889评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,047评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,760评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,745评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,638评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,011评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,669评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,923评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,655评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,740评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,406评论 4 320
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,995评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,961评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,023评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,483评论 2 342