Spring Cloud服务容错组件Hystrix断路器原理

Spring Cloud Hystrix是用于做微服务之间服务短路,服务限流,服务降级,服务容错等的组件,为了避免在庞大微服务系统中,因为某一服务依赖出现异常导致全盘崩溃的严重问题。

1.快速入门

@EnableCircuitBreaker
@EnableDiscoveryClient 
@SpringBootApplication 
public class ConsumerApplication { 
	@Bean 
	@LoadBalanced 
	RestTemplate restTemplate () { 
		return new RestTemplate ();public static void main(String[] args) { 
		SpringApplication.run(ConsumerApplication.class, args);}
  1. 使用@EnableCircuitBreaker开启断路器

注意:这里还可以直接使用@SpringCloudApplication来开启断路器
他相当于我们上面加的三个注解,也就是说Spring Cloud应用默认包含了服务发现和断路器功能

@SpringBootApplication 
@EnableDiscoveryClient 
@EnableCircuitBreaker 
public interface SpringCloudApplication {
}
  1. 改造服务消费方式
    新增 HelloService 类, 注入RestTemplate 实例。 然后在 helloService 函数上增加@HystrixCommand 注解来指定降级方法,最后就可以在调用的Controller中注入该service进行函数式调用即可。
@Service 
public class HelloService { 
	@Autowired 
	RestTemplate restTemplate; 

	@HystrixCommand(fallbackMethod = "helloFallback") 
	public String helloService() { 
		return restTemplate.getForEntity("http://HELLO-SERVICE/hello", String.class) .getBody();public String helloFallback () ( 
		return "error"; 
	}
}
  1. Hystrix默认超时时间2000ms,我们可以在HELLO-SERVICE服务的 /hello接口中随机sleep 1000-3000ms来模拟超时降级,返回error情况。

2.原理分析

本文先研究Hystrix断路器功能,所以对一些流程先讲个概念,可以先行跳过到断路器源码处继续阅读。

  1. 创建HystrixCommand或HystrixObservableCommand对象,使用了Command设计模式来构造请求。

  2. 简要区别:
    • HystrixCommand: 用在依赖的服务返回单个操作结果的时候。
    • HystrixObservableCommand: 用在依赖的服务返回多个操作结果的时候。

  3. HystrixCommand命令执行
    HystrixCommand包含了下面两个命令
    • execute (): 同步执行,从依赖的服务 返回一个单 一的结果对象, 或是在发生错误
    的时候抛出异常。
    • queue (): 异步执行,直接返回 一个Future对象, 其中包含了服务 执行 结束时要
    返回的单 一 结果对象。

R value = command.execute() ; 
Future<R> fValue = command.queue() ;
  1. HystrixObservableCommand命令执行
    HystrixObservableCommand包含这两个命令
    • observe () : 返回Observable对象,它代表了操作的多个结果,它是 一个Hot
    Observable。

    • toObservable(): 同样会返回Observable对象, 也代表了操作的多个结果,
    但它返回的是一个Cold Observable
Observable<R> ohValue = command.observe(}; 
Observable<R> ocValue = command.toObservable(}
  1. 结果是否被缓存
    若当前命令的请求缓存功能是被启用的, 并且该命令缓存命中, 那么缓存的结果会立
    即以Observable 对象的形式返回。

  2. 断路器是否打开
    在命令结果没有缓存命中的时候, Hystrix在执行命令前需要检查断路器是否为打开状态:
    • 如果断路器是打开的,那么Hystrix不会执行命令,而是转接到fallback处理逻辑
    • 如果断路器是关闭的, 那么Hystrix继续执行,检查是否有可用资源来 执行命令。

  3. 线程池/请求队列/信号量是否占满

  4. HystrixObservableCommand.construct()或HystrixCommand.run()
    Hystrix会根据我们编写的方法来决定采取什么样的方式去请求依赖服务。
    • HystrixCommand.run(): 返回一个单一 的结果,或者抛出异常。
    • HystrixObservableCommand.construct(): 返回一个Observable对象来
    发射多个结果,或通过onError发送错误通知

  5. 计算断路器的健康度

  6. fallback处理

  7. 返回成功的响应

相信这个简短流程图,肯定很晦涩难懂,那么这里就单一从HystrixCommand执行过程中举足轻重的断路器开始讲起。

3.断路器源码分析

  1. HystrixCircuitBreaker接口
    可见断路器就三个抽象方法,后续断路器起决定性作用的也是这三个方法。
    • allowRequest(): 每个Hystrix 命令的请求都通过它判断是否被执行。
    • isOpen(): 返回当前断路器是否打开
    • markSuccess(): 用来在服务调用成功后,闭合断路器
public interface HystrixCircuitBreaker { 
	public static class Factory { ... } 
	
	static class HystrixCircuitBreakerimpl implements HystrixCircuitBreaker { ... } 
	
	static class NoOpCircuitBreaker implements HystrixCircuitBreaker { ... } 
	
	public boolean allowRequest(); 
	
	public boolean isOpen(); 
	
	void markSuccess();
}
  1. 接口实现类
    它的实现类可以看到有两个,第一个是NoOpCircuitBreaker,顾名思义是什么作用都不起,第二个是HystrixCircuitBreakerimpl,这个断路器方法就是接口实现方法
    它有四个很重要的成员属性,用于统计和判断短路器状态;
    HystrixCommandProperties properties:断路器对应 HystrixCommand实例的属性对象
    HystrixCommandMetrics metrics:用来让HystrixCommand 记录各类度量指标的对象。这个记录了当前执行情况。
    AtomicBoolean circuitOpen:断路器是否打开的标志,默认为 false。
    AtomicLong circuitOpenedOrLastTestedTime:断路器打开或是上一次测试的时间戳。

  2. isOpen(): 判断断路器的打开/关闭状态。 详细逻辑如下所示。
    如果短路器已打开,则直接返回true, 表示断路器处于打开状态。如果没有就从上面成员属性metrics中获得HealthCounts属性,该对象记录了一个滑动时间窗,默认时间窗为十秒内的数据。
    ——如果它的请求数(QPS)未达到了阈值,则返回false表示未开启,默认为20
    ——如果错误百分比(失败/总共)在阈值内则返回false,默认为50%,只有两者都是失败才会打开断路器

public boolean isOpen() { 
	// 如果开启了默认返回true
	if (circuitOpen.get()) ( 
		return true; 
	}
	// 拿到健康监控数据
	HealthCounts health = metrics.getHealthCounts(); 
	// 如果总共请求少于设置值返回false
	if (health.getTotalRequests() < properties.circuitBreakerRequestVolumeThreshold() .get()) { 
		return false; 
	}
	// 如果错误率少于设置值返回false
	if (health.getErrorPercentage() < properties.circuitBreakerErrorThresholdPercentage(.get()) { 
		return false; 
	} else { 
		// 只有上述两个条件都不满足 且断路器未开启,把断路器打开同时修改上次测试时间戳
		if (circuitOpen.compareAndSet(false, true)) { 
			circuitOpenedOrLastTestedTime.set(System.currentTimeMillis());
			return true; 
		// 保证只有一个线程能够设置时间戳,多线程情况下
		} else { 
			return true;
		}
	}
}

滑动时间窗:类似一个数组对象,如果设置统计时间为十秒那么数组长度为10,每一格记录对应一秒的请求数据,比如请求成功数、请求失败数、拒绝数、超时数等。随着时间更新最新10s内的数据

  1. allowRequest():判断是否允许请求,满足两个条件之一就可,断路器开启状态为false即isOpen() = false、达到熔断时间即距离上次失败时间够长那么允许再次请求allowSingleTest()
@Override 
public boolean allowRequest() { 
	//下面两个都是判断是否强制开/关断路器,如果配置了就直接返回
	if (properties.circuitBreakerForceOpen().get()) ( 
		return false; 
	}
	if (properties.circuitBreakerForceClosed().get()) { 
		// 更新上面说的测试时间戳,如果断路器之前关闭了
		isOpen(); 
		return true; 
	}
	//
	return !isOpen() || allowSingleTest(); 
}

  1. allowSingleTest():判断是否断路器休眠时间到了,运行发起新的重试请求
public boolean allowSingleTest (} { 
	// 拿到上次测试时间
	long timeCircuitOpenedOrWasLastTested = circuitOpenedOrLastTestedTime.get(); 
	// 判断是否超过设置的重试时间且断路器为开,是就发起新的请求
	if (circuitOpen.get() && System.currentTimeMillis() > timeCircuitOpenedOrWasLastTested + properties.circuitBreakerSleepWindowinMilliseconds() .get()) { 
		// 只允许有一个线程设置新的测试时间,并发起请求,后续的请求都将被拦截
		if (circuitOpenedOrLastTestedTime.compareAndSet(
			timeCircuitOpenedOrWasLastTested, System.currentTimeMillis())) { 
				return true; 
		}
	}
	return false;
}
  1. marksuccess():将断路器关闭,重置度量指标
public void markSuccess() { 
	if (circuitOpen.get()if (circuitOpen.compareAndSet(true, false)) { 
			metrics.resetstream();
		}
	}
}

官网完整流程图
在这里插入图片描述

总结

本文简要讲了Hystrix组件的断路器请求工作原理,Hystrix还包括很多功能比如依赖隔离、请求缓存、请求合并、还有Hystrix仪表盘、集群监控等功能。Hystrix功能强大,是微服务中核心的一个组件。

热门文章

暂无图片
编程学习 ·

那些年让我们目瞪口呆的bug

程序员一生与bug奋战&#xff0c;可谓是杀敌无数&#xff0c;见怪不怪了&#xff01;在某知识社交平台中&#xff0c;一个“有哪些让程序员目瞪口呆的bug”的话题引来了6700多万的阅读&#xff0c;可见程序员们对一个话题的敏感度有多高。 1、麻省理工“只能发500英里的邮件” …
暂无图片
编程学习 ·

redis的下载与安装

下载redis wget http://download.redis.io/releases/redis-5.0.0.tar.gz解压redis tar -zxvf redis-5.0.0.tar.gz编译 make安装 make install快链方便进入redis ln -s redis-5.0.0 redis
暂无图片
编程学习 ·

《大话数据结构》第三章学习笔记--线性表(一)

线性表的定义 线性表&#xff1a;零个或多个数据元素的有限序列。 线性表元素的个数n定义为线性表的长度。n为0时&#xff0c;为空表。 在比较复杂的线性表中&#xff0c;一个数据元素可以由若干个数据项组成。 线性表的存储结构 顺序存储结构 可以用C语言中的一维数组来…
暂无图片
编程学习 ·

对象的扩展

文章目录对象的扩展属性的简洁表示法属性名表达式方法的name属性属性的可枚举性和遍历可枚举性属性的遍历super关键字对象的扩展运算符解构赋值扩展运算符AggregateError错误对象对象的扩展 属性的简洁表示法 const foo bar; const baz {foo}; baz // {foo: "bar"…
暂无图片
编程学习 ·

让程序员最头疼的5种编程语言

世界上的编程语言&#xff0c;按照其应用领域&#xff0c;可以粗略地分成三类。 有的语言是多面手&#xff0c;在很多不同的领域都能派上用场。大家学过的编程语言很多都属于这一类&#xff0c;比如说 C&#xff0c;Java&#xff0c; Python。 有的语言专注于某一特定的领域&…
暂无图片
编程学习 ·

写论文注意事项

参考链接 给研究生修改了一篇论文后&#xff0c;该985博导几近崩溃…… 重点分析 摘要与结论几乎重合 这一条是我见过研究生论文中最常出现的事情&#xff0c;很多情况下&#xff0c;他们论文中摘要部分与结论部分重复率超过70%。对于摘要而言&#xff0c;首先要用一小句话引…
暂无图片
编程学习 ·

安卓 串口开发

上图&#xff1a; 上码&#xff1a; 在APP grable添加 // 串口 需要配合在项目build.gradle中的repositories添加 maven {url "https://jitpack.io" }implementation com.github.licheedev.Android-SerialPort-API:serialport:1.0.1implementation com.jakewhart…
暂无图片
编程学习 ·

2021-2027年中国铪市场调研与发展趋势分析报告

2021-2027年中国铪市场调研与发展趋势分析报告 本报告研究中国市场铪的生产、消费及进出口情况&#xff0c;重点关注在中国市场扮演重要角色的全球及本土铪生产商&#xff0c;呈现这些厂商在中国市场的铪销量、收入、价格、毛利率、市场份额等关键指标。此外&#xff0c;针对…
暂无图片
编程学习 ·

Aggressive cows题目翻译

描述&#xff1a; Farmer John has built a new long barn, with N (2 < N < 100,000) stalls.&#xff08;John农民已经新建了一个长畜棚带有N&#xff08;2<N<100000&#xff09;个牛棚&#xff09; The stalls are located along a straight line at positions…
暂无图片
编程学习 ·

剖析组建PMO的6个大坑︱PMO深度实践

随着事业环境因素的不断纷繁演进&#xff0c;项目时代正在悄悄来临。设立项目经理转岗、要求PMP等项目管理证书已是基操&#xff0c;越来越多的组织开始组建PMO团队&#xff0c;大有曾经公司纷纷建造中台的气质&#xff08;当然两者的本质并不相同&#xff0c;只是说明这个趋势…
暂无图片
编程学习 ·

Flowable入门系列文章118 - 进程实例 07

1、获取流程实例的变量 GET运行时/进程实例/ {processInstanceId} /变量/ {变量名} 表1.获取流程实例的变量 - URL参数 参数需要值描述processInstanceId是串将流程实例的id添加到变量中。变量名是串要获取的变量的名称。 表2.获取流程实例的变量 - 响应代码 响应码描述200指…
暂无图片
编程学习 ·

微信每天自动给女[男]朋友发早安和土味情话

微信通知&#xff0c;每天给女朋友发早安、情话、诗句、天气信息等~ 前言 之前逛GitHub的时候发现了一个自动签到的小工具&#xff0c;b站、掘金等都可以&#xff0c;我看了下源码发现也是很简洁&#xff0c;也尝试用了一下&#xff0c;配置也都很简单&#xff0c;主要是他有一…
暂无图片
编程学习 ·

C语言二分查找详解

二分查找是一种知名度很高的查找算法&#xff0c;在对有序数列进行查找时效率远高于传统的顺序查找。 下面这张动图对比了二者的效率差距。 二分查找的基本思想就是通过把目标数和当前数列的中间数进行比较&#xff0c;从而确定目标数是在中间数的左边还是右边&#xff0c;将查…
暂无图片
编程学习 ·

项目经理,你有什么优势吗?

大侠被一个问题问住了&#xff1a;你和别人比&#xff0c;你的优势是什么呢? 大侠听到这个问题后&#xff0c;脱口而出道&#xff1a;“项目管理能力和经验啊。” 听者抬头看了一下大侠&#xff0c;显然听者对大侠的这个回答不是很满意&#xff0c;但也没有继续追问。 大侠回家…
暂无图片
编程学习 ·

nginx的负载均衡和故障转移

#注&#xff1a;proxy_temp_path和proxy_cache_path指定的路径必须在同一分区 proxy_temp_path /data0/proxy_temp_dir; #设置Web缓存区名称为cache_one&#xff0c;内存缓存空间大小为200MB&#xff0c;1天没有被访问的内容自动清除&#xff0c;硬盘缓存空间大小为30GB。 pro…
暂无图片
编程学习 ·

业务逻辑漏洞

身份认证安全 绕过身份认证的几种方法 暴力破解 测试方法∶在没有验证码限制或者一次验证码可以多次使用的地方&#xff0c;可以分为以下几种情况︰ (1)爆破用户名。当输入的用户名不存在时&#xff0c;会显示请输入正确用户名&#xff0c;或者用户名不存在 (2)已知用户名。…