`

使用Hystrix对Dubbo消费者提供线程隔离保护

 
阅读更多
在dubbo中对于消费者的保护提供了actives进行并发控制保护,但是功能相对薄弱,下面我们探讨下如何使用Netflix提供的服务容错组件Hystrix对dubo消费者提供线程隔离保护
在dubbo中对于消费者的保护提供了actives进行并发控制保护,但是功能相对薄弱,下面我们探讨下如何使用Netflix提供的服务容错组件Hystrix对dubo消费者提供线程隔离保护
为什么需要Hystrix?

在大中型分布式系统中,通常我们需要依赖很多dubbo服务,如下图:

在高并发访问下,这些依赖的稳定性与否对系统的影响非常大,但是依赖有很多不可控问题:如网络连接缓慢、资源繁忙、暂时不可用、服务脱机等。
如下图:QPS为50的依赖 "I" 出现不可用、但是其他依赖仍然可用。

当依赖I 阻塞时,大多数服务器的线程池就出现阻塞,影响整个线上服务的稳定性。如下图:

当高并发的依赖失败时如果没有隔离措施,当前应用服务就有被拖垮的风险!
例如:一个依赖30个SOA服务的系统,每个服务99.99%可用。 
99.99%的30次方 ≈ 99.7% 
0.3% 意味着一亿次请求 会有 3,000,00次失败 
换算成时间大约每月有2个小时服务不稳定

随着服务依赖数量的变多,服务不稳定的概率会成指数性提高。

解决问题方案:对依赖做隔离,Hystrix就是处理依赖隔离的框架,同时也是可以帮我们做依赖服务的治理和监控。

Hystrix如何解决依赖隔离

Hystrix使用命令模式HystrixCommand(Command)包装依赖调用逻辑,每个命令在单独线程中/信号授权下执行。
可配置依赖调用超时时间,当调用超时时,直接返回或执行fallback逻辑。
为每个依赖提供一个小的线程池(或信号),如果线程池已满调用将被立即拒绝,默认不采用排队,加速失败判定时间。
请求失败(异常,拒绝,超时,短路)时执行fallback(降级)逻辑。
提供熔断器组件,可以自动运行或手动调用,停止当前依赖一段时间(10秒),熔断器默认错误率阈值为50%,超过将自动运行。
提供近实时依赖的统计和监控


Hystrix依赖的隔离架构,如下图:

Hystrix实时依赖统计、监控如下:

Dubbo消费者引入
dubbo可以通过扩展Filter的方式引入Hystrix,具体代码如下:
package com.netease.hystrix.dubbo.rpc.filter;

import com.alibaba.dubbo.common.Constants;
import com.alibaba.dubbo.common.extension.Activate;
import com.alibaba.dubbo.rpc.Filter;
import com.alibaba.dubbo.rpc.Invocation;
import com.alibaba.dubbo.rpc.Invoker;
import com.alibaba.dubbo.rpc.Result;
import com.alibaba.dubbo.rpc.RpcException;

@Activate(group = Constants.CONSUMER)
public class HystrixFilter implements Filter {

    @Override
    public Result invoke(Invoker invoker, Invocation invocation) throws RpcException {
        DubboHystrixCommand command = new DubboHystrixCommand(invoker, invocation);
        return command.execute();
    }

}
DubboHystrixCommand代码如下:
package com.netease.hystrix.dubbo.rpc.filter;

import org.apache.log4j.Logger;

import com.alibaba.dubbo.common.URL;
import com.alibaba.dubbo.rpc.Invocation;
import com.alibaba.dubbo.rpc.Invoker;
import com.alibaba.dubbo.rpc.Result;
import com.netflix.hystrix.HystrixCommand;
import com.netflix.hystrix.HystrixCommandGroupKey;
import com.netflix.hystrix.HystrixCommandKey;
import com.netflix.hystrix.HystrixCommandProperties;
import com.netflix.hystrix.HystrixThreadPoolProperties;

public class DubboHystrixCommand extends HystrixCommand {

    private static Logger    logger                       = Logger.getLogger(DubboHystrixCommand.class);
    private static final int DEFAULT_THREADPOOL_CORE_SIZE = 30;
    private Invoker       invoker;
    private Invocation       invocation;
   
    public DubboHystrixCommand(Invoker invoker,Invocation invocation){
        super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey(invoker.getInterface().getName()))
                    .andCommandKey(HystrixCommandKey.Factory.asKey(String.format("%s_%d", invocation.getMethodName(),
                                                                                 invocation.getArguments() == null ? 0 : invocation.getArguments().length)))
              .andCommandPropertiesDefaults(HystrixCommandProperties.Setter()
                                            .withCircuitBreakerRequestVolumeThreshold(20)//10秒钟内至少19此请求失败,熔断器才发挥起作用
                                            .withCircuitBreakerSleepWindowInMilliseconds(30000)//熔断器中断请求30秒后会进入半打开状态,放部分流量过去重试
                                            .withCircuitBreakerErrorThresholdPercentage(50)//错误率达到50开启熔断保护
                                            .withExecutionTimeoutEnabled(false))//使用dubbo的超时,禁用这里的超时
              .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter().withCoreSize(getThreadPoolCoreSize(invoker.getUrl()))));//线程池为30
      
       
        this.invoker=invoker;
        this.invocation=invocation;
    }
   
    /**
     * 获取线程池大小
     *
     * @param url
     * @return
     */
    private static int getThreadPoolCoreSize(URL url) {
        if (url != null) {
            int size = url.getParameter("ThreadPoolCoreSize", DEFAULT_THREADPOOL_CORE_SIZE);
            if (logger.isDebugEnabled()) {
                logger.debug("ThreadPoolCoreSize:" + size);
            }
            return size;
        }

        return DEFAULT_THREADPOOL_CORE_SIZE;

    }

    @Override
    protected Result run() throws Exception {
        return invoker.invoke(invocation);
    }
}
线程池大小可以通过dubbo参数进行控制,当前其他的参数也可以通过类似的方式进行配置
<dubbo:parameter key="ThreadPoolCoreSize" value="20" />
代码添加好后在,resource添加加载文本
|-resources
        |-META-INF
            |-dubbo
                |-com.alibaba.dubbo.rpc.Filter (纯文本文件,内容为:hystrix=com.netease.hystrix.dubbo.rpc.filter.HystrixFilter
由于Filter定义为自动激活的,所以启动代码所有消费者都被隔离起来啦!
项目地址:https://github.com/yskgood/dubbo-hystrix-support.git

http://my.oschina.net/yangshaokai/blog/674685

摘自:http://m635674608.iteye.com/blog/2312328
分享到:
评论

相关推荐

    spring-hystrix-rpc:dubbo hystrix rpc

    Spring-Hystrix-rpc 该项目目的是熟悉hystrix特性,展示流控效果 服务依赖 zookeeper(zookeeper://127.0.0.1:2181) 主要jar依赖 spring boot 2.0.3.RELEASE dubbo 2.6.2 hystrix 1.5.12 rpc-api 该模块定义服务的...

    dubbo-hystrix-consumer:dubbo服务集成Hystrix,客户端

    dubbo-hystrix-consumer dubbo服务集成Hystrix,客户端 maven.galaxy.com maven私服地址 zookeeper.galaxy.com zookeeper地址 集成Hystrix需要按照以下步骤: 1.写一个Filter实现dubbo的Filter 在invoke中加上...

    详解Spring Cloud中Hystrix 线程隔离导致ThreadLocal数据丢失

    主要介绍了详解Spring Cloud中Hystrix 线程隔离导致ThreadLocal数据丢失,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧

    15.Spring Cloud中使用Hystrix

    详细讲解了如何在Spring Cloud中使用Hystrix,如何将Hystrix整合到Feign中

    Hystrix跨线程传递数据解决方案:HystrixRequestContext.docx

    Hystrix跨线程传递数据解决方案:HystrixRequestContext.docx

    尚硅谷Dubbo 2018年8月28发布

    ZooKeeper注册中心.avi 07、尚硅谷_Dubbo_环境搭建_管理控制台.avi 08、尚硅谷_Dubbo_环境搭建_创建提供者消费者工程.avi 09、尚硅谷_Dubbo_服务提供者配置&测试.avi 10、尚硅谷_Dubbo_服务消费者配置&测试.avi 11、...

    Hystrix源码简析

    Hystrix源码简析:包括线程隔离和信号量隔离实现分析、熔断器实现分析等

    hystrix公司内部分享ppt

    在公司内部做的一次分享,生产环境使用hystrix来进行调用dubbo服务的超时、熔断、重试、限流的Netflix框架

    SpringCloud服务容错保护(Hystrix)介绍与使用示例

    SpringCloud服务容错保护(Hystrix)介绍与使用示例 在微服务架构中,一个服务可能会调用很多的其他微服务应用,虽然做了多集群部署,但可能还会存在诸如网络原因或者服务提供者自身处理的原因,或多或少都会出现请求...

    hystrix接口限流

    Hystrix是Netflix开源的一款容错框架,包含常用的容错方法:线程隔离、信号量隔离、降级策略、熔断技术。 在高并发访问下,系统所依赖的服务的稳定性对系统的影响非常大,依赖有很多不可控的因素,比如网络连接变慢...

    尚硅谷Java视频教程_Dubbo

    ZooKeeper注册中心.avi 07、尚硅谷_Dubbo_环境搭建_管理控制台.avi 08、尚硅谷_Dubbo_环境搭建_创建提供者消费者工程.avi 09、尚硅谷_Dubbo_服务提供者配置&测试.avi 10、尚硅谷_Dubbo_服务消费者配置&测试.avi 11、...

    Hystrix Dashboard的使用-代码部分.zip

    Hystrix Dashboard的使用博文中,优化后的服务消费者和服务提供者,Hystrix Dashboard工程、Turbine工程,以及Eureka Server、父级工程的源代码

    spring cloud hystrix原理介绍及使用

    spring cloud hystrix通过服务隔离、熔断、降级等手段控制依赖服务的延迟与失败。

    Hystrix代码DEMO

    资源隔离(线程池隔离和信号量隔离)机制:限制调用分布式服务的资源使用,某一个调用的服务出现问题不会影响其它服务调用。 限流机制:限流机制主要是提前对各个类型的请求设置最高的QPS阈值,若高于设置的阈值则对...

    hystrix简介

    hystrix

    Hystrix学习讲义大全.pdf

    Hystrix 可以让我们在分布式系统中对服务间的调用进行控制,加入一些调用延迟或者依赖故障的容错机制。Hystrix 通过将依赖服务进行资源隔离,进而阻止某个依赖服务出现故障时在整个系统所有的依赖服务调用中进行蔓延...

    APM之hystrix的使用

    APM之hystrix的使用,改造老的项目,没有使用spring cloud全家桶的情况下如何使用

    微服务springcloud之feign和hystrix使用demo

    feign中包含了hystrix以及ribbon,即feign在不导入hystrix和ribbon的依赖下也能完成他们所能实现的功能,当然,如果想使用hystrix和ribbon自带的注解以及配置,必须导入依赖才可以,feign结合hystrix实现熔断+降级,...

    Feign对Hystrix的支持-代码部分.zip

    Feign对Hystrix的支持-代码部分博文中,优化后的服务消费者和服务提供者,以及Eureka Server、父级工程的源代码

Global site tag (gtag.js) - Google Analytics