断路器
- 当一个服务调用另外一个服务由于网络或者自身原因出现问题,调用者就会等待被调用者的响应,当更多的服务请求到这些资源导致更多的请求等待,发生连锁效应(雪崩效应)。
断路器三种状态
- 打开状态:一段时间内,达到一定的次数无法调用,并且多次监测没有恢复的迹象,断路器完全打开,那么下次请求就不会请求到该服务
- 半开状态:短时间内有恢复迹象,断路器会将部分请求发给该服务,正常调用时断路器关闭
- 关闭状态:当服务一直处于正常状态,能正常调用
Hystrix
- 在分布式系统中,我们一定会依赖各种服务,那么这些服务一定会出现失败的情况,就会导致雪崩,Hystrix就是这样一个工具,防雪崩利器,它具有服务降级,服务熔断,服务隔离,服务监控等一些防止雪崩的技术。
Hystrix四种防雪崩方式:
- 服务降级:接口调用失败就调用本地的方法返回一个空
- 服务熔断:接口调用失败就会进入调用接口提前定义好的一个熔断的方法,返回错误信息
- 服务隔离:隔离服务之间相互影响
- 服务监控:在服务发生调用时,会将每秒请求数、成功请求数等运行指标记录下来
雪崩效应
- 雪崩效应是在大型互联网项目中,当某个服务发生宕机时,调用这个服务的其他服务也会发生宕机,大型项目的微服务之间调用是互通的,这样就会将服务的不可用逐步扩大到各个其他服务中,从而使整个项目的服务宕机崩溃
- 发生雪崩效应原因有一下几点:1.单个服务的代码存在bug;2.请求访问量激增导致服务发生崩溃(比如大型商城的抢红包,秒杀功能);3.服务器硬件故障也会导致部分服务不可用。
微服务中,如何保护服务
- 一般使用Hystrix框架,实现服务隔离来避免出现服务的雪崩效应,从而达到保护服务的效果。当微服务中,高并发数据库访问量导致服务线程阻塞,使单个服务宕机,服务的不可用会蔓延至其他服务,引起整体服务灾难性后果,使用服务降级能有效为不通的服务分配资源,一旦服务不可用则返回友好提示,不占用其他服务资源,从而避免单个服务崩溃引发整体服务的不可用
谈谈服务降级、熔断、服务隔离
- 服务降级:当客户端请求服务器端的时候,防止客户端一直等待,不会处理业务逻辑代码,直接返回一个友好的提示给客户端。
- 服务熔断:是在服务降级的基础上更直接的一种保护方式,当在一个统计时间范围内的请求失败数量达到设定值(requestVolumeThreshold)或当前的请求错误率达到设定的错误率阈值(errorThresholdPercentage)时开启断路,之后的请求直接走fallback方法,在设定时间(sleepWindowInMilliseconds)后尝试恢复。
- 服务隔离:就是Hystrix为隔离的服务开启一个独立的线程池,这样在高并发的情况下不会影响到其他的服务,服务隔离有线程池和信号量两种方式实现,一般使用线程池方式。
服务降级底层实现
- Hystrix实现服务降级的功能是重写HystrixCommand中的getFallback()方法,当Hystrix的run()方法或construct执行发生错误时转而执行getFallback()方法。