個人博客 :https://www.siyuan.run
CSDN:https://blog.csdn.net/siyuan
微信小程序:思遠Y
-
線性輪詢策略: RoundRibbonRule
BaseLoadBalancer 負載均衡器默認采用線性負載輪詢負載均衡策略。
工作流程:
- RoundRibbonRule 類的 choose(ILoadBalancer Ib,Object key) 方法初始化一個計數器。
- incrementAndGetModulo() 方法獲取一個下標 (是先加1,然后和服務清單總數取模獲取到的,不會越界),是一個不斷增長的數。
- chooseServer(Object key) 方法拿著下標去服務列表中獲取服務,每次循環計數器都會加1。如果連續10次都沒有取到服務,則會報 “No available alive servers after 10 tries from loadbalancer.” 警告。
-
重試策略:RetryRule
重試策略在使用 RetryRule 類中定義的 choose(ILoadBalance Ib,Object key) 方法來選擇一個服務實例。
choose() 方法也是采用 RoundRibbonRule 中的 choose() 方法來選擇一個服務實例的。
工作流程
- 如果選擇到的服務實例正常,則返回數據。
- 如果選擇到的服務實例為 null 或 失效,則 choose() 方法會在失效時間前不斷地進行重試。
- 如果超過了失效時間還是沒有取到,則返回一個 null。
-
加權響應時間策略:WeightedResponseTimeRule
WeightedResponseTimeRule 類是 RoundRibbonRule 的一個子類,它對 RoundRibbonRule 的功能進行了擴展。它根據每一個服務實例的運行情況先計算出該服務實例的一個權重,然后根據權重進行服務實例的挑選,這樣能夠調用到更優的服務實例。
工作流程
- 每 30S 計算一次各服務實例的響應時間,以響應時間來計算權重。平均響應時間越短則權重越高,權重越高則被選中的的概率越高,反之則被選中的概率較低。
- WeightedResponseTimeRule 中有一個名叫 DynamicServerWeightTask 的定時任務。它是一個后臺線程,定期從 status 里面讀取響應時間,用來計算每個服務實例權重。
-
隨機策略:RandomRule
隨機選擇一個可用的服務實例。
工作流程
- 負載均衡通過 upList() 和 allList() 方法獲得可用服務實例列表,然后初始化了一個 Randow 對象以生成一個不大于服務實例總的隨機數。
- choose() 方法將該隨機數作為下標獲取一個服務實例。輪詢 “index” 選擇 “index” 對應的服務實例。
-
客戶端配置啟動線性輪詢策略:ClientConfigEnabledRoundRobbinRule
繼承該策略默認的 choose() 方法就能實現線性輪詢機制。
-
最空閑策略:BestAvailableRule
該服務是逐個考察各服務實例,然后選擇一個最小的并發請求的服務實例來提供實例。BestAvailableRule 繼承自 ClientConfigEnabledRoundRobbinRule 類。
工作流程
- 根據在 loadBalancerStats() 方法中保存的服務實例的狀態信息來過濾失效的服務實例。
- 判斷 loadBalancerStats 是否為空。
- 如果 loadBalancerStats 不為空,則找出并發請求最小的服務實例來使用。
- 如果 loadBalancerStats 為空,則 BestAvailableRule 類將采用它的父類。即 ClientConfigEnabledRoundRobbinRule 的服務選取策略 (線性策略)。
-
過濾性線性輪詢策略:PredicateBasedRule
PredicateBaseRule 類是 ClientConfigEnabledRoundRobbinRule 類的一個子類,它通過內部定義的一個過濾器過濾出一部分服務實例清單,然后用線性輪形的方式從過濾出來的服務實例清單中選取提個服務實例。
-
區域感知輪詢策略:ZoneAvoidanceRule
該策略以區域、可用的服務器為基礎,選擇服務實例并對服務實例進行分類。ZoneAvoidanceRule 類是 PredicateBasedRule 類的一個實現類,它有一個組合過濾條件 (CompositePredicate)。ZoneAvoidanceRule 類中的過濾條件是 “以 ZoneAvoidancePredicate() 方法為主過濾條件” 和 “以AvailabilityPredicate() 方法為次過濾條件” 組成的。在過濾成功后,繼續采用線性輪詢的方式從過濾結果中選擇出一個服務實例。
-
可用性過濾策略:AvailabilityFilteringRule
該策略根據服務狀態 (宕機和繁忙) 來分配權重,過濾掉那些因為一直連接失敗或高并發的服務實例。它使用一個 AvailabilityPredicate() 方法來包含過濾邏輯。