首頁 >Java >java教程 >spring cloud 之 客戶端負載平衡 Ribbon

spring cloud 之 客戶端負載平衡 Ribbon

巴扎黑
巴扎黑原創
2017-06-26 09:31:341124瀏覽

一、負載平衡

#負載平衡(Load Balance) 建立在現有網路結構之上,它提供了一種廉價有效透明的方法擴展網路設備和伺服器的頻寬、增加吞吐量、加強網路資料處理能力、提高網路的靈活性和可用性。其意思是分攤到多個作業單元上進行執行,例如Web伺服器、FTP伺服器、企業關鍵應用伺服器和其它關鍵任務伺服器等,從而共同完成工作任務。

1、服務端負載平衡:客戶端請求到負載平衡伺服器,負載平衡伺服器根據自身的演算法將該請求轉給某台真正提供業務的伺服器,該伺服器將回應資料給負載平衡伺服器,負載平衡伺服器最後將資料傳回給客服端。 (nginx)

2、客服端負載平衡:基於客戶端的負載平衡,簡單的說就是在客戶端程式裡面,自己設定一個調度演算法,在向伺服器發起請求的時候,先執行調度演算法計算出向哪台伺服器發起請求,然後再發起請求給伺服器。

基於客戶端負載平衡的特性:

  • 由客戶端內部程式實現,不需要額外的負載平衡器軟硬體投入。

  • 程式內部需要解決業務伺服器不可用的問題,伺服器故障對應用程式的透明度小。

  • 程式內部需要解決業務伺服器壓力過載的問題。

二、Ribbon實作客戶端的負載平衡

我們使用spring boot 來測試。

pom檔:

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 ">
  <modelVersion>4.0.0</modelVersion>
  <groupId>com.jalja.org</groupId>
  <artifactId>spring-consumer-server-ribbon</artifactId>
  <version>0.0.1-SNAPSHOT</version>
  
   <parent><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-parent</artifactId><version>1.5.2.RELEASE</version></parent><properties><project.build.sourceEncoding>UTF-8</project.build.sourceEncoding><project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding><java.version>1.8</java.version></properties><dependencyManagement><dependencies><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-dependencies</artifactId><version>Camden.SR4</version><type>pom</type><scope>import</scope></dependency></dependencies></dependencyManagement><dependencies> <dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-ribbon</artifactId></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency></dependencies></project>

application.yml

stores:
  ribbon:
    listOfServers: www.baidu.com,www.jalja.org,www.163.com

Ribbon的負載平衡策略

1、RoundRobinRule(輪詢模式) public class RoundRobinRule extends AbstractLoadBalancerRule roundRobin方式輪詢選擇server 輪詢index,選擇index對應位置的server          此策略也是ribbon的預設策略

SpringCloudRibbonApplication.java
   ="static"= loadBalancer.choose("stores"= URI.create(String.format("http://%s:%s" "static"

:80
:80
:80
:80
:80
#:80

2、RandomRule(隨機策略)# public class RandomRule extends AbstractLoadBalancerRule# 隨機選擇一個server 在index上隨機,選擇index對應位置的server

在設定檔application.yml加入 

NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
stores:
  ribbon:
    listOfServers: www.baidu.com,www.jalja.org,www.163.org
    #随机
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

在SpringCloudRibbonApplication.java 中加入

    @Beanpublic IRule ribbonRule() {return new RandomRule();//这里配置策略,和配置文件对应}

執行6次的結果:

http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80http://www.163.org:80http://www.baidu.com:80http://www.jalja.org:80

3、BestAvailableRule(並發量) public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule 選擇一個最小的並發請求的server 逐一檢視Server,如果Server被tripped了,則忽略,在選擇其中ActiveRequestsCount最小的server

在設定檔application.yml加入

NFLoadBalancerRuleClassName: com.netflix.loadbalancer.BestAvailableRule

#在SpringCloudRibbonApplication.java 中加入

@Beanpublic IRule ribbonRule() {return new BestAvailableRule();//这里配置策略,和配置文件对应}

執行6次的結果:

http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80

4、AvailabilityFilteringRule(伺服器狀態) public class AvailabilityFilteringRule extends PredicateBasedRule 過濾掉那些因為一直連接失敗的被標記為circuit tripped的後端server,並過濾掉那些高掉那些因為一直連接失敗的被標記為circuit tripped的後端server,並過濾掉那些高掉那些因為一直連接失敗的被標記為circuit tripped的後端server,並過濾掉那些高掉那些因為一直連接失敗的被標記為circuit tripped的後端server,並過濾掉那些高掉那些因為一直連線失敗的被標記為circuit tripped的後端server並發的後端server(active connections 超過設定的閾值) 使用一個AvailabilityPredicate來包含過濾server的邏輯,其實就是檢查status裡記錄的各個server的運作狀態

5、WeightedResponseTimeRule(根據回應時間) public class WeightedResponseTimeRule extends RoundRobinRule 根據回應時間分配一個weight,對應時間越長,weight性越低。 一個後台線程定期的從status裡面讀取評價回應時間,為每個server計算一個weight。 Weight的計算也比較簡單responsetime 減去每個server自己平均的responsetime是server的權重。當剛開始運行,沒有形成statas時,使用roubine策略選擇server。


6、RetryRule(根據策略+重試) public class RetryRule extends AbstractLoadBalancerRule 對選定的負載平衡策略機上重試機制。 在一個配置時間段內當選擇server不成功,則一直嘗試使用subRule的方式選擇一個可用的server


7、ZoneAvoidanceRule(Zone狀態+服務狀態) public class ZoneAvoidanceRule extends PredicateBasedRule 複合判斷server所在區域的效能和server的可用性選擇server 使用ZoneAvoidancePredicate和AvailabilityPredicate來判斷是否選擇某個server,前一個判斷判定一個zone的運作效能是否可用,剔除不可用的。 ),AvailabilityPredicate用來過濾掉連接數過多的Server。

 

4、5、6、7這些策略使用方式與上述方式相同這裡不在示範 

以上是spring cloud 之 客戶端負載平衡 Ribbon的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn