您现在的位置是:亿华云 > 应用开发
Golang 熔断器的实现
亿华云2025-10-09 03:44:24【应用开发】9人已围观
简介Go 项目中使用熔断技术提高系统容错性。本文介绍了 Go熔断器和其使用。熔断器像是一个保险丝。当我们依赖的服务出现问题时,可以及时容错。一方面可以减少依赖服务对自身访问的依赖,防止出现雪崩效应;另一方
Go 项目中使用熔断技术提高系统容错性。熔断本文介绍了 Go 熔断器和其使用。实现
熔断器像是熔断一个保险丝。当我们依赖的实现服务出现问题时,可以及时容错。熔断一方面可以减少依赖服务对自身访问的实现依赖,防止出现雪崩效应;另一方面降低请求频率以方便上游尽快恢复服务。熔断
熔断器的实现应用也非常广泛。除了在我们应用中,熔断为了请求服务时使用熔断器外,实现在 web 网关、熔断微服务中,实现也有非常广泛的熔断应用。本文将从源码角度学习 sony 开源的实现一个熔断器实现 github/sony/gobreaker。(代码注释可以从github/lpflpf/gobreaker 查看)
熔断器的熔断模式
gobreaker 是基于《微软云设计模式》一书中的熔断器模式的 Golang 实现。有 sony 公司开源,目前 star 数有 1.2K。使用人数较多。
下面是模式定义的一个状态机:
熔断器有三种状态,四种状态转移的情况:
三种状态:
熔断器关闭状态,服务正常访问 熔断器开启状态,香港云服务器服务异常 熔断器半开状态,部分请求限流访问四种状态转移:
在熔断器关闭状态下,当失败后并满足一定条件后,将直接转移为熔断器开启状态。 在熔断器开启状态下,如果过了规定的时间,将进入半开启状态,验证目前服务是否可用。 在熔断器半开启状态下,如果出现失败,则再次进入关闭状态。 在熔断器半开启后,所有请求(有限额)都是成功的,则熔断器关闭。所有请求将正常访问。gobreaker 的实现
gobreaker 是在上述状态机的基础上,实现的一个熔断器。
熔断器的定义
type CircuitBreaker struct { name string maxRequests uint32 // 最大请求数 (半开启状态会限流) interval time.Duration // 统计周期 timeout time.Duration // 进入熔断后的超时时间 readyToTrip func(counts Counts) bool // 通过 Counts 判断是否开启熔断。需要自定义 onStateChange func(name string, from State, to State) // 状态修改时的钩子函数 mutex sync.Mutex // 互斥锁,下面数据的更新都需要加锁 state State // 记录了当前的云南idc服务商状态 generation uint64 // 标记属于哪个周期 counts Counts // 计数器,统计了 成功、失败、连续成功、连续失败等,用于决策是否进入熔断 expiry time.Time // 进入下个周期的时间 }其中,如下参数是我们可以自定义的:
MaxRequests:最大请求数。当在最大请求数下,均请求正常的情况下,会关闭熔断器 interval:一个正常的统计周期。如果为 0,那每次都会将计数清零 timeout: 进入熔断后,可以再次请求的时间 readyToTrip:判断熔断生效的钩子函数 onStateChagne:状态变更的钩子函数请求的执行
熔断器的执行操作,主要包括三个阶段;①请求之前的判定;②服务的请求执行;③请求后的状态和计数的更新
// 熔断器的调用 func (cb *CircuitBreaker) Execute(req func() (interface{ }, error)) (interface{ }, error) { // ①请求之前的判断 generation, err := cb.beforeRequest() if err != nil { return nil, err } defer func() { e := recover() if e != nil { // ③ panic 的捕获 cb.afterRequest(generation, false) panic(e) } }() // ② 请求和执行 result, err := req() // ③ 更新计数 cb.afterRequest(generation, err == nil) return result, err }请求之前的判定操作
请求之前,源码下载会判断当前熔断器的状态。如果熔断器以开启,则不会继续请求。如果熔断器半开,并且已达到最大请求阈值,也不会继续请求。
func (cb *CircuitBreaker) beforeRequest() (uint64, error) { cb.mutex.Lock() defer cb.mutex.Unlock() now := time.Now() state, generation := cb.currentState(now) if state == StateOpen { // 熔断器开启,直接返回 return generation, ErrOpenState } else if state == StateHalfOpen && cb.counts.Requests >= cb.maxRequests { // 如果是半打开的状态,并且请求次数过多了,则直接返回 return generation, ErrTooManyRequests } cb.counts.onRequest() return generation, nil }其中当前状态的计算,是依据当前状态来的。如果当前状态为已开启,则判断是否已经超时,超时就可以变更状态到半开;如果当前状态为关闭状态,则通过周期判断是否进入下一个周期。
func (cb *CircuitBreaker) currentState(now time.Time) (State, uint64) { switch cb.state { case StateClosed: if !cb.expiry.IsZero() && cb.expiry.Before(now) { // 是否需要进入下一个计数周期 cb.toNewGeneration(now) } case StateOpen: if cb.expiry.Before(now) { // 熔断器由开启变更为半开 cb.setState(StateHalfOpen, now) } } return cb.state, cb.generation }周期长度的设定,也是以据当前状态来的。如果当前正常(熔断器关闭),则设置为一个 interval 的周期;如果当前熔断器是开启状态,则设置为超时时间(超时后,才能变更为半开状态)。
请求之后的处理操作
每次请求之后,会通过请求结果是否成功,对熔断器做计数。
func (cb *CircuitBreaker) afterRequest(before uint64, success bool) { cb.mutex.Lock() defer cb.mutex.Unlock() now := time.Now() // 如果不在一个周期,就不再计数 state, generation := cb.currentState(now) if generation != before { return } if success { cb.onSuccess(state, now) } else { cb.onFailure(state, now) } }如果在半开的状态下:
如果请求成功,则会判断当前连续成功的请求数 大于等于 maxRequests, 则可以把状态由半开状态转移为关闭状态 如果在半开状态下,请求失败,则会直接将半开状态转移为开启状态如果在关闭状态下:
如果请求成功,则计数更新 如果请求失败,则调用 readyToTrip 判断是否需要将状态关闭状态转移为开启状态总结
对于频繁请求一些远程或者第三方的不可靠的服务,存在失败的概率还是非常大的。使用熔断器的好处就是可以是我们自身的服务不被这些不可靠的服务拖垮,造成雪崩。 由于熔断器里面,不仅会维护不少的统计数据,还有互斥锁做资源隔离,成本也会不少。 在半开状态下,可能出现请求过多的情况。这是由于半开状态下,连续请求成功的数量未达到最大请求值。所以,熔断器对于请求时间过长(但是比较频繁)的服务可能会造成大量的 too many requests 错误很赞哦!(61)
相关文章
- 前面这两个步骤都是在本机完成的。到这里还没有涉及真正的域名解析服务器,如果在本机中仍然无法完成域名的解析,就会真正请求域名服务器来解析这个域名了。
- Java关于延迟加载的一些应用实践
- Rocky Linux 将于 3 月底发布首个 RC 版本
- 巧用ActionFilterAttribute实现API日志的记录
- 其次,一般域名注册有一个获取密码的按钮,域名注册商点击后会向您发送密码。在得到域名注册商发送的密码后,将其传输到域名服务提供商网站,然后输入密码,此时域名呈现申请状态。提交申请后,原注册人通常会向您发送一封电子邮件,询问您是否同意转让。此时,您只需点击同意转移按钮,域名注册商就可以成功转移。
- 详解LongAdder实现原理
- Vue3 开发拒绝 CV, 快使用 CRUD
- 虚拟现实将成为更具创造性的通信方式
- Status、Creation Date、Expiration Date
- 这波太炸了!Python脚本可视化居然可以这么玩!
站长推荐
在更换域名后,并不是就万事大吉了,我们需要将旧域名做301重定向到新域名上,转移旧域名的权重到新域名上。
创业失败后,我决定开源所有产品代码
聊点JavaScript中的数组方法
掌握6大模块、7个核心概念!帮你搞定Mycat中间件
当投资者经过第二阶段的认真学习之后又充满了信心,认为自己可以在市场上叱咤风云地大干一场了。但没想到“看花容易绣花难”,由于对理论知识不会灵活运用.从而失去灵活应变的本能,就经常会出现小赢大亏的局面,结果往往仍以失败告终。这使投资者很是困惑和痛苦,不知该如何办,甚至开始怀疑这个市场是不是不适合自己。在这种情况下,有的人选择了放弃,但有的意志坚定者则决定做最后的尝试。
春节期间,我用责任链模式重构了业务代码
如何打造一个高性能的前端智能推理引擎
3+1保障:高可用系统稳定性是如何炼成的?