本篇会介绍下Hystrix的使用,会从最简单的入门实例开始,然后会讲述下Hystrix的隔离和熔断的原理和流程,最后讲解下Hystrix的各类参数来指导大家更快上手。
1. Hystrix实例
1)Pom增加依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
</dependency>
2)Application添加注解
@SpringBootApplication
@EnableHystrixDashboard
@EnableCircuitBreaker
public class Application {
public static void main(String[] args) {
SpringApplication.run(Application.class, args);
}
}
3)controller增加HystrixCommand注解
Hystrix支持两种方式定义HystrixCommand,一种是将类继承自HystrixCommand类,重写run方法,另一种是在方法头上写注解的方式,使用注解的方式代码会比较清晰,将Hystrix代码和业务代码隔离开,具体属性含义在接下来的章节会详细介绍。
@RestController
public class TestController {
@HystrixCommand(fallbackMethod = "error", commandProperties = {
@HystrixProperty(name="execution.isolation.strategy", value = "THREAD"),
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "4000"),
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "40")
}, threadPoolProperties = {
@HystrixProperty(name = "coreSize", value = "1"),
@HystrixProperty(name = "maxQueueSize", value = "10"),
@HystrixProperty(name = "keepAliveTimeMinutes", value = "1000"),
@HystrixProperty(name = "queueSizeRejectionThreshold", value = "8"),
@HystrixProperty(name = "metrics.rollingStats.numBuckets", value = "12"),
@HystrixProperty(name = "metrics.rollingStats.timeInMilliseconds", value = "1440")
})
@RequestMapping(value = "/hello", method = RequestMethod.GET, produces = {"application/json;charset=UTF-8"})
public String hello(){
return "hello hystrix!";
}
public String error() {
return "hello error!";
}
}
4)Hystrix Dashboard
Hystrix自带了DashBoard,如果监控单个实例,可以很方便的通过Hystrix的dashboard进行查看运行情况。
当应用运行起来以后可以通过输入http://localhost:8081/hystrix,如果看到小熊页面表示进入dashboard页面。
在输入栏中输入:http://localhost:8081/hystrix.stream可以查看这个阶段的实时运行情况。
可以看到界面上按照service和接口都分别展示出来,如果有多个接口也会依次列开请求监控情况。
实例源码下载:https://github.com/feiweiwei/springcloud-sample
2. Hystrxi熔断隔离流程
Hystrix隔离的核心思想就是按照接口进行线程池隔离,在没有接触Hystrix之前,我们也考虑过使用线程池做隔离,来实现隔离的功能,但是当时考虑到每个接口都开一个线程池,可能线程上下文切换会消耗很多性能,但是按照NetFlix的测试情况可以发现因为线程池导致的性能损耗很少,下面就介绍下熔断隔离的流程。
Hystrix流程说明:
1:每次调用创建一个新的HystrixCommand,把依赖调用封装在run()方法中.
2:执行execute()/queue做同步或异步调用.
3:判断熔断器(circuit-breaker)是否打开,如果打开跳到步骤8,进行降级策略,如果关闭进入步骤.
4:判断线程池/队列/信号量是否跑满,如果跑满进入降级步骤8,否则继续后续步骤.
5:调用HystrixCommand的run方法.运行依赖逻辑
5a:依赖逻辑调用超时,进入步骤8.
6:判断逻辑是否调用成功
6a:返回成功调用结果
6b:调用出错,进入步骤8.
7:计算熔断器状态,所有的运行状态(成功, 失败, 拒绝,超时)上报给熔断器,用于统计从而判断熔断器状态.
8:getFallback()降级逻辑.
以下四种情况将触发getFallback调用:
(1):run()方法抛出非HystrixBadRequestException异常。
(2):run()方法调用超时
(3):熔断器开启拦截调用
(4):线程池/队列/信号量是否跑满
8a:没有实现getFallback的Command将直接抛出异常
8b:fallback降级逻辑调用成功直接返回
8c:降级逻辑调用失败抛出异常
9:返回执行成功结果
3.Hystrxi参数详解
最开始例子可以发现Hystrix通过注解的方式使用起来是非常简单的,只要搞清楚里面的各种参数就能用的很6,我整理了一下各个参数的作用,大家可以看下,熟悉下整个Hystrix的功能。下面这张图表示了Hystrix的熔断图,很好理解,图片来自官网。
execution
execution.isolation.strategy
表示隔离策略,隔离策略有两种,一种为线程隔离一种为信号量隔离,线程隔离是按照并发请求进行线程池数量进行隔离,请求线程全部按照线程池设置属性进行处理,官方也是推荐使用这种隔离策略,默认也是按照线程隔离进行处理。信号隔离也可以用于限制并发访问,防止阻塞扩散, 与线程隔离最大不同在于执行依赖代码的线程依然是请求线程(该线程需要通过信号申请),如果客户端是可信的且可以快速返回(例如系统做了redis或者其他内存缓存),可以使用信号隔离替换线程隔离,降低开销.信号量的大小可以动态调整, 线程池大小不可以动态调整.
@HystrixCommand(fallbackMethod = "error", commandProperties = {
@HystrixProperty(name="execution.isolation.strategy", value = "THREAD")
})
execution.isolation.thread.timeoutInMilliseconds
这个就比较简单了,表示请求线程总超时时间,如果超过这个设置的时间hystrix就会调用fallback方法。value的参数为毫秒,默认值为1000ms。
@HystrixCommand(fallbackMethod = "error", commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "4000")
})
execution.timeout.enabled
这个超时开关表示,当超时后是否触发fallback方法,默认为true。
execution.isolation.semaphore.maxConcurrentRequests
当隔离策略使用SEMAPHORE时,最大的并发请求量,如果请求超过这个最大值将拒绝后续的请求,默认值为10.
fallbackMethod
这个属性就很好理解了,表示当触发隔离条件的时候会调用fallback设置的降级方法,在降级方法中,我们可以设置默认的降级返回报文,这里需要注意的是降级方法的入参和返回值需要和原方法一致,否则在编译的时候会报错。
Circuit Breaker熔断器
circuitBreaker.requestVolumeThreshold
熔断器在整个统计时间内是否开启的阀值,每个熔断器默认维护10个bucket,每秒一个bucket,每个bucket记录成功,失败,超时,拒绝的状态,该阈值默认20次。也就是一个统计窗口时间内(10秒钟)至少请求20次,熔断器才启动。
circuitBreaker.sleepWindowInMilliseconds
熔断器默认工作时间,默认值为5秒.熔断器中断请求5秒后会进入半打开状态,放部分流量过去重试,如果重试成功则会恢复正常请求。
circuitBreaker.errorThresholdPercentage
熔断器错误阈值,默认为50%。当在一个时间窗口内出错率超过50%后熔断器自动启动。熔断器启动后交易会自动转发到HystrixCommand的run方法,即配置的fallbackMethod,进行降级处理。但是在中断开启后的sleepWindowInMilliseconds时间后会进行半开放状态,去正常请求,如果功能恢复则会自动离开熔断状态,恢复正常请求处理。
circuitBreaker.forceOpen
熔断器强制开关,如果设置为true则表示强制打开熔断器,所有请求都会拒绝,默认为false。
circuitBreaker.forceClosed
与forceOpen正好相反。
ThreadPool Properties
coreSize
线程池核心线程数,默认值为10,这里的含义和jdk的线程池一个意思。
maxQueueSize
该参数表示配置线程值等待队列长度,默认值:-1,建议值:-1表示不等待直接拒绝,测试表明线程池使用直接决绝策略+ 合适大小的非回缩线程池效率最高.所以不建议修改此值。 当使用非回缩线程池时,queueSizeRejectionThreshold,keepAliveTimeMinutes 参数无效。
queueSizeRejectionThreshold
表示等待队列超过阈值后开始拒绝线程请求,默认值为5,如果maxQueueSize为1,则该属性失效。