spring cloud ribbon 负载均衡类

Ribbon 在实现客户端负载均衡时,是通过Ribbo的ILoadBalancer接口实现的。

AbstractLoadBalancer

是ILoadBalancer接口的抽象实现,定义了一个分组枚举类ServerGroup

还实现了一个chooseServer()方法,其中key为null,表示在选择具体实例时忽略key的条件判断

还定义了两个抽象方法

    getServerList(ServerGroup serverGroup):根据分组类型获取不同的实例列表

    getLoadBalancerStats():定义了获取LoadBalancerStats对象的方法,

LoadBalancerStats对象被用来存储负载均衡中各个服务实例当前的属性和统计信息。

BaseLoadBalancer

是Ribbon负载均衡的基础实现类,

  定义并维护了两个存储服务实例Server对象的列表。一个用于存储所有服务实例的清单,

一个用于存储正常服务的实例清单

  定义了各服务实例属性和统计信息的LoadBalancerStats对象

  定义了检查服务实例是否正常服务的IPing对象,默认为null,构造时注入

  定义了检查服务实例操作的执行策略对象IPingStrategy,在BaseLoadBalancer中

默认使用了SerialPingStrategy,遍历检查

  定义了负载均衡的处理规则IRule对象,从BaseLoadBalancer中

chooseServer(Object key),实际将选择任务委托给IRule.choose()方法,IRule默认为

RoundRobinRule

  启动ping任务:在BaseLoadBalancer的默认构造方法中,会直接启动一个用于定时检查Server是否健康的任务

  DynamicServerListLoadBalancer

      对基础负载均衡的扩展。在该负载均衡中,实现了服务实例清单在运行期的动态更新能力;

同时,还具备了对服务实例清单的过滤功能。新增如下

  ServerList serverListImpl

ServerList继承结构如下

上图中有多个ServerList的实现类,那么在DynamiceServerListLoadBalancer中的ServerList默认配置到底使用了哪个具体实现?

既然该负载均衡类中需要实现服务实例的动态更新,那么势必需要Ribbon具备访问Eureka来获取服务实例的能力,在包

org.springframework.cloud.netflix.ribbon.eureka下,可以找到配置类EurekaRibbonClientConfiguration,找到如下

这里创建的一个DomainExtractingServerList实例,在这个类源码中,还定义类一个ServerList list. 同时对getInitialListOfServers()

和getUpdatedListOfServers()的具体实现,其实委托给内部定义的ServerList list对象

由构造方法传入的DiscoveryEnabledNIWSServerLIst实现的。

在DiscoveryEnableNIWSServerList中

在obtainServersViaDiscovery()方法中

主要逻辑是,依靠EurekaClient从服务注册中心获取到具体的服务实例InstanceInfo列表,vipAddress可以理解为逻辑上的服务名如USER-SERVICE

然后遍历,找到UP的实例转换成DiscoveryEnabledServer对象 ,返回


返回的结果List到了DomainExtractingServerList类中,将继续通过setZones()方法进行处理


ServerListUpdater

  DynamicServerListLoadBalancer类中属性ServerListUpdater中

主要是对ServerList的更新,

而ServerListUpdater的实现类不多,如下

   PollingServerListUpdater:动态服务列表更新的默认策略,也就是DynamicServerListLoadBalancer中默认实现,

它通过定时任务实现更新

 EurekaNotificationServerListUpdater 需要利用Eureka的事件监听器来驱动服务列表的更新操作


ServerListFilter

回到updateAction.doUpdate()方法,在DynamicServerListLoadBalancer中,调用updateListOfServers()方法

调用之前提到的ServerList.getUpdatedListOfServers(),获取到从Eureka Server中获取服务可用实例的列表。

通过ServerListFilter filter过滤,继承关系如下

  AbstractServerListFilter:定义类过滤时需要的一个重要对象LoadBalancerStats,该对象存储了一些属性和统计信息等

       ZoneAffinityServerListFilter:该过滤器基于“区域感知(Zone Affinity)”的方式实现服务实例的过滤,源码

过滤后,通过shouldEnableZoneAffinity()方法来判断是否启用“区域感知”功能。

使用LoadBalancerStats.getZoneSnapshot()获取过滤后同区域实例的基础指标(包含实例数量,断路器断开数,活动请求数,实例平均负载等)

根据一系列的算法求出下面的几个评价值并与设置的阈值进行比较,若有一个条件符合,就不启用“区域感知”。

可以实现当集群出现区域故障时,依然可以依靠其他区域的实例进行正常服务的高可用保障。

  blackOutServerPercentage:故障实例百分比(断路器断开数/实例数)>=0.8

       activeRequestsPerServer:实例平均负载>=0.6

       availableSevers: 可用实例数(实例数 - 断路器断开数)<2


DefaultNIWSServerListFilter 完全继承ZoneAffinityServerListFilter,是默认NIWS(Netflix Internal Web Server)过滤器

ServerListSubSetFilter:

ZonePreferenceServerListFilter: Spring Cloud整合时新增的过滤器。若使用Spring Cloud整合Eureka和Ribbon时默认使用该过滤器

根据zone过滤出实例


ZoneAwareLoadBalancer

 是对DynamicServerListLoadBalancer的扩展。DynamicServerListLoadBalancer中,没重写chooseServer()方法,所有它

依旧采用BaseLoadBalancer中的算法。使用RoundRobinRule规则,以线性轮询的方式来选择调用的服务实例,该算法实现

简单并没有区域(Zone)的概念,所以它会把所有实例视为一个Zone下的节点来看待,这样就会周期性地产生跨区域(Zone)

访问的情况,由于跨区域会产生更高的延迟,这些实例主要以防止区域性故障实现高可用为目的而不能作为常规访问的实例,

所以在多区域部署的情况下会有一定的性能问题,而该负载均衡则可以避免这样的问题。



在ZoneAwareLoadBalancer中,它没有重写setServersList,说明实现服务实例清单的更新主逻辑没有修改。但是发现它重写了setServerListForZones(Map

List>zoneServersMap)。

在DynamicServerListLoadBalancer中查找这个方法

setServerListForZones()在

setServersList()方法的最后被调用,在父类DynamicServerListLoadBalancer中的作用是根据按区域Zone分组的实例列表,为LoadBalancerStats对象创建ZoneStats并放入Map

zoneStatsMap中,每一个Zone对应一个

ZoneStats,它用于存储每个Zone的一些状态和统计信息。

   在ZoneAwareLoadBalancer中setServerListForZones()如下

 可以看到,在该实现中创建了一个ConcurentHashMap()类型的balancers对象,它将用来存储每个Zone区域对应的负载均衡器。

 其中getLoadBalancer创建如下

 在创建负载均衡器的时候会创建它的规则(如果当前实现中没有IRule实例,就创建一个AvailablityFilteringRule:否则克隆)

创建完负载均衡器后有调用setServersList()为其设置对应Zone区域的实例清单。

   第二个循环则对Zone区域中实例清单的检查,看看是否有Zone区域下已经没有实例了

现在看一下ZoneAwareLoadBalancer中chooseServer()方法

当zone区域大于1时

   ①调用ZoneAvoidanceRule中的静态方法createSnapshot(lbStats),为当前负载均衡器中所有的Zone区域创建快照,

保存在Map zoneSnapshot中


②调用ZoneAvoidancerRule中ZoneAvoidanceRule.getAvailableZones(zoneSnapshot,

triggeringLoad.get(), triggeringBlackoutPercentage.get());

来获取可用的Zone区域集合,通过Zone区域快照中的统计数据来实现可用区

的挑选。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,033评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,725评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,473评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,846评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,848评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,691评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,053评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,700评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,856评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,676评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,787评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,430评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,034评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,990评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,218评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,174评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,526评论 2 343

推荐阅读更多精彩内容