Spring Cloud微服务笔记六（Hystrix熔断器）

2023-10-24 20:24:28

分布式系统问题

往往分布式系统结构中的应用程序，互相存在一定的依赖关系，每个依赖之间在某些情况将不可避免的失败，容易造成系统的崩溃。

服务雪崩
多个微服务之间调用的时候，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用了其他的微服务，这就是所谓的“扇出”。如果扇出的链路上某个微服务的响应时间过长或者不可用，对位服务A的调用就会占用越来越多的系统资源，进而引起系统崩溃，所谓的“雪崩效应”。
对于高流浪的应用来说，单一的后端依赖可能会导致所有服务器上的所有资源在几秒钟内饱和。比失败更糟糕的是，这些应用程序还可能导致服务之间的迟增高，备份队列，线程和其他系统资源紧张，导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理，以便单个依赖关系的失败，不能取消整个应用程序或系统，所以，通常当你发现一个模块下的某个实例失败后，这时候这个模块一栏还会接收流量，然后这个有问题的模块还调用了其他的模块，这样就会发生级联故障，或者叫雪崩。

Hystrix

Hystrix是一个用于处理分布式系统的延迟和容错的开源库，在分布式系统中，许多依赖不可避免的会调用失败，比如超时和异常，Hystrix能够保证在一个依赖出问题的情况下，不会导致整体服务失败，避免级联故障，以提高分布式系统的弹性。
“断路器”本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控（类似熔断保险丝），==向调用方返回一个符合预期的，可处理的备用响应（FallBack），而不是长时间的等待或者抛出调用方法无法处理的异常，==这样保证了服务的线程不会因为被长时间和不必要的占用，从而避免了故障在分布式系统的蔓延，乃至雪崩。

功能：服务降级、服务熔断、接近实时的监控

官网资料：传送门

注：目前已官宣停更发布新版本，不再接受合并请求，只会被动修复bug

配置

主启动类添加注解：@EnableCircuitBreake（或@EnableHystrix 后者继承了@EnableCircuitBreake）
Spring Cloud微服务笔记六（Hystrix熔断器）

Maven

<dependency>
      <groupId>org.springframework.cloud</groupId>
      <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
    </dependency>

YML
如果为消费者Feign

feign:
  hystrix:
    enabled: true

服务降级

FallBack：当遇到程序运行异常、超时、服务熔断触发服务降级、线程池/信号量也会导致服务降级时，返回备用方案，如返回服务器忙，请稍后再试，不让客户端等待，返回一个友好提示。

需要在业务类上添加注解：@HystrixCommand
一旦调用服务方式失败并抛出了错误信息后，会自动调用@HystrixCommand注解中fallbackMethod指向的方法。

/**
*
* @author zhangminjie
* @create 2020-07-06 11:30
**/
@RestController
@Slf4j
//@DefaultProperties(defaultFallback = "payment_Global_FallbackMethod")
public class OrderController {


    @Resource
    private PaymentHystrixService paymentHystrixService;

    /**
     * 正常访问
     *
     * @param id
     * @return
     */
    @GetMapping("/consumer/hystrix/ok/{id}")
    public String paymentInfo_OK(@PathVariable("id") Integer id) {
        String result = paymentHystrixService.paymentInfo_OK(id);
        log.info("*****result:" + result);
        return result;
    }

    /**
     * 超时访问
     *
     * @param id
     * @return
     */
    @GetMapping("/consumer/hystrix/timeout/{id}")
    //@HystrixCommand(fallbackMethod = "consumer_TimeOut_fallback",commandProperties = {
    //    @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "80000")
    //})
    //@HystrixCommand
    public String paymentInfo_TimeOut(@PathVariable("id") Integer id) {
        String result = paymentHystrixService.paymentInfo_TimeOut(id);
        log.info("*****result:" + result);
        return result;

    }

    public String consumer_TimeOut_fallback(@PathVariable("id") Integer id){
        return "我是消费者80,对方支付系统繁忙请10秒种后再试或者自己运行出错请检查自己,o(╥﹏╥)o";
    }

    /**
     * 全局fallback
     *
     * @return
     */
    public String payment_Global_FallbackMethod() {
        return "Global异常处理信息,请稍后重试.o(╥﹏╥)o";
    }

}

可针对每个方法进行不同的fallback方法，也可以通过在类上的注解@DefaultPorperties中指明默认的defaultFallback方法，只需要在需要fallback的方法上面添加@HystrixCommand注解即可（无需参数）

当配合Feign进行使用时，可通过在@FeignClient注解中指明fallback类，会根据相同的方法名自动匹配，好处在于将业务代码与fallback区分开（前提是yml配置中要开启Feign中的Hystrix）
Feign Service

/**
*
* @author zhangminjie
* @create 2020-07-06 11:29
**/
@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT",fallback = PaymentFallbackHystrixService.class)
public interface PaymentHystrixService {

    /**
     * 正常访问
     *
     * @param id
     * @return
     */
    @GetMapping("/payment/payment/hystrix/ok/{id}")
    String paymentInfo_OK(@PathVariable("id") Integer id);

    /**
     * 超时访问
     *
     * @param id
     * @return
     */
    @GetMapping("/payment/payment/hystrix/timeout/{id}")
    String paymentInfo_TimeOut(@PathVariable("id") Integer id);
}

Feign中指向的fallback类

/**
*
* @author zhangminjie
* @create 2020-07-06 14:28
**/
@Component
public class PaymentFallbackHystrixService implements PaymentHystrixService {

    @Override
    public String paymentInfo_OK(Integer id)
    {
        return "----PaymentFallbackHystrixService  paymentInfo_OK  --timeout";
    }

    @Override
    public String paymentInfo_TimeOut(Integer id)
    {
        return "----PaymentFallbackHystrixService  paymentInfo_TimeOut  --timeout";
    }
}

服务熔断

概述
熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务出错不可用或者响应时间太长时，进而熔断该节点的微服务的调用，快速返回错误的响应信息。
当检测到该节点微服务调用正常响应以后，恢复链路。
在Spring Cloud框架里，熔断机制通过Hystrix实现。Hystrix会监控微服务间的调用情况，当失败的调用到一定的阈值，缺省是5秒内20次调用失败，就会启动熔断机制，熔断机制的注解是@HystrixCommand

服务的降级 > 进而熔断 > 回复调用链路

示例熔断方法

  @HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback",commandProperties = {
        @HystrixProperty(name="circuitBreaker.enabled",value = "true"),//是否开启断路器
        @HystrixProperty(name="circuitBreaker.requestVolumeThreshold",value = "10"),//请求次数
        @HystrixProperty(name="circuitBreaker.sleepWindowInMilliseconds",value = "10000"),//时间窗口期
        @HystrixProperty(name="circuitBreaker.errorThresholdPercentage",value = "60")//失败率达到多少以后跳闸
    })
    public String paymentCircuitBreaker(@PathVariable("id") Integer id)
    {
        if(id < 0)
        {
            throw new RuntimeException("******id 不能负数");
        }
        String serialNumber = IdUtil.simpleUUID();

        return Thread.currentThread().getName()+"\t"+"调用成功，流水号: " + serialNumber;
    }
    public String paymentCircuitBreaker_fallback(@PathVariable("id") Integer id)
    {
        return "id 不能负数，请稍后再试，/(ㄒoㄒ)/~~   id: " +id;
    }

上面所涉及到的三个熔断重要参数：快照时间窗、请求总数阈值、错误百分比阈值

  1. 快照时间窗：断路器确定是打开需要统计一些请求和错误数据，而统计的时间范围就是快照时间窗，默认为最近的10秒。
    请求总数阈值：在快照时间窗内，必须满足请求总数阈值才有资格熔断，默认为20，以为咋十秒内，如果该hystrix命令的调用次数不足20次，即使所有的请求都超时或其他原因失败，熔断器都不会打开。
    错误百分比阈值：在请求总数在快照时间窗内超过了阈值，比如发生了40次调用，如果在这40次调用中，有30次发生了超时异常，也就是超过了50%阈值的情况下，这时候熔断器会打开。

熔断器开启或关闭的条件：

  1. 当满足一定阈值的时候（默认10秒超过20个请求次数）
  2. 当失败率达到一定的时候（默认10秒超过50%的请求次数）
  3. 达到以上阈值，熔断器将会开启
  4. 当开启的时候，所有请求都不会进行转发
  5. 一段时间之后（默认5秒），这个时候熔断器将是半开状态，会让其中一个请求进行转发，如果成功，熔断器关闭，若失败，重复4和5.

熔断器打开之后，再有请求调用的时候，将不会调用主逻辑，而是直接调用降级fallback，通过熔断器，实现了自动的发现问题并将服务降级切换为主逻辑，减少印象延迟的效果。
hystrix实现了自动恢复功能，当熔断器打开以后，对主逻辑熔断以后，hystrix回启东一个休眠时间窗，在这个时间窗内，降级逻辑临时成为主逻辑，当休眠时间窗到期，熔断器会进入半开状态，释放一次请求到原来的主逻辑上，如果此次请求正常返回，那么熔断器关闭，主逻辑回复，如果失败，熔断器进入打开状态，休眠时间窗重新计时。

以下是一个国外大神的概念图
Spring Cloud微服务笔记六（Hystrix熔断器）

熔断类型
熔断打开：请求不再调用当前服务，内置设置一般为MTTR（平均故障处理时间），当打开长达导致所设时钟则进入版熔断状态。
熔断关闭：熔断器不会对服务进行熔断。
熔断半开：部分请求根据规则调用当前服务，如果请求成功则服务规则认为当前服务恢复正常，关闭链路。

服务限流

主要针对高并发操作，当请求突然增高（例如秒杀操作），通过配置设置，进行限制，一秒钟N个，使程序有序进行处理。

ALI配置

@HystrixCommand(fallback="str_fallbackMethod",
			groupKey = "strGroupCommand",
			CommandKey = "strCommand"
			threadPoolKey = "strThreadPool",
			commandProperties = {
			//设置隔离策略，THREAD,标识线程池 SEMAPHORE:信号池隔离
			@HystrixProperty（name = "execution.isolation.strategy", value = "THREAD"）,
			//当隔离策略选择信号池隔离的时候，用来设置信号池的大小（最大并发数）
			@HystrixProperty（name = "execution.isolation.semaphore.maxConcurrentRequests", value = "10"）,
			//配置命令执行的超时时间
			@HystrixProperty（name = "execution.isolation.thread.timeoutinMilliseconds", value = "10"）,
			//是否启用超时时间
			@HystrixProperty（name = "execution.timeout.enabled", value = "true"）,
			//执行超时的时候是否中断
			@HystrixProperty（name = "execution.isolation.thread.interrupOnTimeout", value = "true"）,
			//执行被取消的时候是否中断
			@HystrixProperty（name = "execution.isolation.thread.interrupOnCancel", value = "true"）,
			//允许回调方法执行的最大并发数
			@HystrixProperty（name = "fallback.isolation.semaphore.maxConcurrentRequests", value = "10"）,
			//服务降级是否启用，是否执行回调函数
			@HystrixProperty（name = "fallback.enabled", value = "true"）,
			//是否启动熔断器
			@HystrixProperty（name = "circuitBreaker.enabled", value = "true"）,
			//该属性用来设置滚动时间窗中，熔断器熔断的最小请求数，例如：默认值为20的时候，如果滚动时间窗（默认10秒）内仅接受19个请求，即使全部失败，也不会开启熔断器
			@HystrixProperty（name = "circuitBreaker.requestVolumeThreshold", value = "20"）,
			//该属性用来设置滚动时间窗中，表示在滚动时间窗中，请求数量超过上面配置的情况下，如果错误请求数百分比超过50%，将进行熔断，否则不会进行熔断。在熔断以后的休眠时间窗，例如在5秒进入半开状态。
			@HystrixProperty（name = "circuitBreaker.sleepWindowinMilliseconds", value = "5000"）,
			//熔断器强制打开
			@HystrixProperty（name = "circuitBreaker.forceOpen", value = "false"）,
			//熔断器强制关闭
			@HystrixProperty（name = "circuitBreaker.forceClosed", value = "false"）,
			//滚动时间窗设置，该时间用于熔断器判断健康度是需要收集信息的持续时间
			@HystrixProperty（name = "metrics.rollingStats.timeinMilliseconds", value = "10000"）,
			//该属性用来设置滚动时间窗统计指标信息划分为“桶”的数量，熔断器在手机上指标信息的时候会根据设置的时间窗昌都拆分为多个“桶”来累计各度量值，每个“桶”记录一段时间内的采集指标。比如10秒内拆分成10个“桶”手机，所以timeinMillseconds必须能被numBuckets整除，否则抛出异常
			@HystrixProperty（name = "metrics.rollingStats.numBuckets", value = "10"）,
			//该属性用来设置对命令执行的延迟，是否使用百分位数来跟踪和计算，如果设置为false，那么所有的概要统计都将返回-1
			@HystrixProperty（name = "metrics.rollingPercentitle.enabled", value = "false"）,
			//该属性用来设置百分位统计的滚动窗口持续时间，单位毫秒
			@HystrixProperty（name = "metrics.rollingPercentitle.timeInMilliseconds", value = "60000"）,
			//该属性用来设置百分位统计的滚动窗口中使用“桶”的数量
			@HystrixProperty（name = "metrics.rollingPercentitle.numBuckets", value = "60000"）,
			//该属性用来设置在执行过程中每个“桶”中保留的最大执行次数，如果在滚动时间窗内发生超过该谁定值的执行次数，就从最初的位置开始从写。
			@HystrixProperty（name = "metrics.rollingPercentitle.bucketSize", value = "100"）,
			//该属性用来设置采集影响熔断器状态的健康快照（请求的成功，错误的百分比）的间隔等待时间
			@HystrixProperty（name = "metrics.healthSnapshot.intervalinMilliseconds", value = "500"）,
			//是否开启请求缓存
			@HystrixProperty（name = "requestCache.enabled", value = "true"）,
			//hystrixCommand的执行和事件是否打印到HystrixRequestLog中
			@HystrixProperty（name = "requestLog.enabled", value = "true"）}，
			threadPoolProperties = {
			//该参数用来设置执行命令线程池的核心线程数，该值也就是命令执行的最大并发数
			@HystrixProperties（name = "coreSize",value = "10"）,
			//该参数用来设置执行命令线程池的最大队列大小，当前设置为-1时，线程池将使用SynchronousQueue实现的队列，否则将使用LinkedBlockingQueue实现的队列
			@HystrixProperties（name = "maxQueueSize",value = "-1"）,
			//该参数用来为队列设置拒绝阈值，通过该参数，即使队列没有达到最大值也能拒绝请求，该参数主要是对LinkedBlockingQueue队列的补充，因为LinkedBlockingQueue队列不能动态修改他的对象大小，而通过该属性可以调成拒绝请求的队列大小了
			@HystrixProperties（name = "queueSizeRejectionThreshold",value = "5"）
})
public String strConsumer(){
	return "hello 2020";
}

以上均为手写，可能存在错误

服务监控

除了隔离依赖服务的调用以外，Hystrix还提供了==准实时的调用监控（Hystrix Dashboard），==Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息，并以同级报表和图形的形式展示出来，包括每秒执行多少请求多少成功，多少失败等，NetFlix通过hystrix-metrics-event-stream项目实现了对以上指标的监控，Spring Cloud也提供了Hystrix Dashboard的整合，对监控内容转化为可视化界面。

Maven

<!--hystrix dashboard-->
    <dependency>
      <groupId>org.springframework.cloud</groupId>
      <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
    </dependency>

主启动类添加注解：@EnableHystrixDashboard

对需要监控的服务需要引入Maven

 <!--监控-->
    <dependency>
      <groupId>org.springframework.boot</groupId>
      <artifactId>spring-boot-starter-actuator</artifactId>
    </dependency>

对需要被监控的服务中，主启动类需要填写监控地址

/**
*
* @author zhangminjie
* @create 2020-07-06 10:57
**/
@SpringBootApplication
@EnableEurekaClient
@EnableCircuitBreaker
@EnableHystrixDashboard
public class PaymentHystrixMain8001
{

    public static void main(String[] args)
    {
        SpringApplication.run(PaymentHystrixMain8001.class, args);
    }

    /**
     * 此配置是为了服务监控而配置，与服务容错本身无观，springCloud 升级之后的坑
     * ServletRegistrationBean因为springboot的默认路径不是/hystrix.stream
     * 只要在自己的项目中配置上下面的servlet即可
     */
    @Bean
    public ServletRegistrationBean getServlet()
    {
        HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
        ServletRegistrationBean<HystrixMetricsStreamServlet> registrationBean = new ServletRegistrationBean<>(
            streamServlet);
        registrationBean.setLoadOnStartup(1);
        registrationBean.addUrlMappings("/hystrix.stream");
        registrationBean.setName("HystrixMetricsStreamServlet");
        return registrationBean;

    }
}

启动监控服务后访问
Spring Cloud微服务笔记六（Hystrix熔断器）
监控信息
Spring Cloud微服务笔记六（Hystrix熔断器）

Spring Cloud微服务笔记六（Hystrix熔断器）
Spring Cloud微服务笔记六（Hystrix熔断器）

Hystrix工作流程

Spring Cloud微服务笔记六（Hystrix熔断器）

上一篇：git分支的理解_转


下一篇：Hystrix(五)