熔斷與降級

為什么在RPC環節中有熔斷以及降級的需求，詳細的原因這里不多解釋，從網上搜索一張圖做示意。

熔斷

我理解熔段主要解決如下幾個問題：

當所依賴的對象不穩定時，能夠起到快速失敗的目的快速失敗后，能夠根據一定的算法動態試探所依賴對象是否恢復

比如產品詳細頁獲取產品的好評總數時，由于后端服務異常導致客戶端每次都需要等到超時。如果短時間內服務不能恢復，那么這段時間內的所有請求時間都將是最大的超時時間，這類消費時間又得不到正確結果的現象是不能容忍的。所以遇到這類情況，就需要根據一定的算法判定服務短時間不可用，將后面的請求進行快速失敗處理，這樣可以節省服務等待時間。

同時，后端服務是有可能自主或者人為在一定時間內恢復的，所以之前被判定為快速失敗的服務，需要有能力去試探服務是否已經恢復。

上面提到的快速失敗以及自主恢復現象就是熔斷

降級

降級是指自己的待遇下降了，從RPC調用環節來講，就是去訪問一個本地的偽裝者而不是真實的服務，但這對調用端來說是沒有區別的。拿電商展示某個產品的詳細頁來說：

當加載評論時，由于評論服務不可用，此時可以返回一些默認的評論當加載產品庫存，由于庫存服務不可用，此時可以固定顯示一個庫存數

上面提供返回默認評論，固定庫存的服務就是偽裝服務，這類服務一般不依賴其它服務，穩定性最高。由偽裝者提供服務給客戶端的現象就是服務降級。

RPC如何支持熔斷與降級

一種最簡單的辦法就是借用hystrix來實現。

引入包依賴

由于示例未采用注解式方案，所以只需要引用下面兩個包即可。

<dependency> <groupId>com.netflix.hystrix</groupId> <artifactId>hystrix-core</artifactId> <version>${hystrix-version}</version></dependency><dependency> <groupId>com.netflix.hystrix</groupId> <artifactId>hystrix-metrics-event-stream</artifactId> <version>${hystrix-version}</version></dependency>

實現命令模式

hystrix遵循命令模式，這里可以往這個標準的UML圖上去套。

創建一個新的類，RpcHystrixCommand，繼承自HystrixCommand即可。

我這里采用線程隔離方式。

構造函數參數

由于需要遠程調用，所以構造函數需要接收遠程調用所需求必要參數

/** * 遠程目標方法 */private Method method;/** * 遠程目標接口 */private Object obj;/** * 遠程方法所需要的參數 */private Object[] params;/** * 遠程接口客戶端引用注解 */private RpcReference rpcReference;/** * RPC客戶端配置 */private ReferenceConfig referenceConfig;

構造函數方法簽名:

public RpcHystrixCommand(Object obj, Method method, Object[] params, RpcReference rpcReference, ReferenceConfig referenceConfig)

初始化hystrix

這里只是一個示例，所以參數設置比較隨意，詳細的可參考文檔。

super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey('CircuitBreakerRpcHystrixCommandGroup')) .andCommandKey(HystrixCommandKey.Factory.asKey('CircuitBreakerRpcHystrixCommandKey')) .andCommandPropertiesDefaults(HystrixCommandProperties.Setter() .withCircuitBreakerEnabled(true) .withCircuitBreakerRequestVolumeThreshold(1) .withCircuitBreakerErrorThresholdPercentage(50) .withCircuitBreakerSleepWindowInMilliseconds(5*1000) .withMetricsRollingStatisticalWindowInMilliseconds(10*1000) ) .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey('CircuitBreakerRpcHystrixCommandPool')) .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter().withCoreSize(100)) );

run()函數

run()函數就是正常調用時所需要執行的方法，將調用遠程通信的邏輯遷移到此，由于此處不涉及今天講的熔斷降級，所以不用關心里面的代碼。

@Overrideprotected Object run() { // 執行遠程調用}

擴展rpcReference注解以支持降級

在之前的注解中增加一個屬性，用來配置服務偽裝者所屬的類對象

public @interface RpcReference { /** * 服務降級的偽裝者類對象 * @return */ Class<?> fallbackServiceClazz() default Object.class;}

getFallback()函數

當快速失敗時，我們希望返回一些預先準備好的值給到客戶端，實現這個需求就需要實現這個fallback函數。

偽裝者的邏輯由于是客戶端控制，所以我們通過參數來動態支持。 通過rpcReference注解可以獲取配置的偽裝者

protected Object getFallback() { Method[] methods = this.rpcReference.fallbackServiceClazz().getMethods(); for (Method methodFallback : methods) { if(this.method.getName().equals(methodFallback.getName())){try { Object fallbackServiceMock= ApplicationContextUtils.getApplicationContext().getBean(this.rpcReference.fallbackServiceClazz()); return methodFallback.invoke(fallbackServiceMock,this.params);} catch (IllegalAccessException e) { logger.error('RpcHystrixCommand.getFallback error',e);} catch (InvocationTargetException e) { logger.error('RpcHystrixCommand.getFallback error',e);} } } throw new RpcException('service fallback unimplement'); }

RpcProxy嵌入熔斷降級機制

代理的invoke方法，將改調用命令模式的execute方法來代替。

@Overridepublic Object invoke(Object proxy, Method method, Object[] args) throws Throwable { RpcHystrixCommand rpcHystrixCommand=new RpcHystrixCommand(proxy,method,args,this.reference,this.referenceConfig); return rpcHystrixCommand.execute();}

客戶端使用

dubbo有一個mock機制，功能有些弱，有興趣可以自行研究。我這里更加傾向于根據邏輯來判斷是否使用熔斷降級，降級的邏輯需要有更多的支持。

Spring Cloud的熔斷降級的做法與我的類似,它是通過注解在接口上

@FeignClient(value = 'JIM-CLOUD-PROVIDER-SERVER',fallback = ProductServiceHystrix.class)public interface ProductService { @RequestMapping(value = '/product/{productId}',method = RequestMethod.GET) String getById(@PathVariable('productId') final long productId);}

創建偽裝者接口

定義偽裝者接口，約定成員方法的簽名與真身相同。

public interface ProductCommentMockService { Product getById(Long productId);}

實現偽裝者接口

實現偽裝者接口，這里不光是簡單的固定數據,可心任意編寫偽裝者業務邏輯，與普通的service bean 沒有區別。

@Servicepublic class ProductCommentMockServiceImpl implements ProductCommentMockService { @Override public Product getById(Long productId) { Product mockProduct=new Product(); mockProduct.setId(0L); mockProduct.setName('mock product name'); return mockProduct; }}

服務引用使用熔斷降級機制

在引用遠程服務接口的注解上，配置偽裝者接口的類即可。

@RpcReference( maxExecutesCount = 1, fallbackServiceClazz = ProductCommentMockService.class)private ProductService productService;

測試

故意不啟動服務端，請求接口，此時出現mock數據說明組件功能正常。

{'id':0,'name':'mock product name'}

待解決問題

由于熔斷器采用的是新線程執行，所以會影響Rpc上下文傳遞的參數傳遞。

本文源碼

https://github.com/jiangmin168168/jim-framework

文中代碼是依賴上述項目的，如果有不明白的可下載源碼

以上就是本文的全部內容，希望對大家的學習有所幫助，也希望大家多多支持好吧啦網。