1.【SpringCloud原理】OpenFeign原来是执行这么基于Ribbon来实现负载均衡的
2.ribbonè´è½½å衡详解
3.netflix已经有了feign这个httpclient,为什么还要开发ribb
4.SpringCloud(3):使用Ribbon进行负载均衡配置,以及遇坑指南
5.Ribbon负载均衡分析
6.springcloud中使用nacos做服务发现,源码其中“lb://”是什么连
【SpringCloud原理】OpenFeign原来是这么基于Ribbon来实现负载均衡的
欢迎来到本篇文章,之前我们已经深入探讨了OpenFeign的执行动态代理生成原理和Ribbon的运行机制。若要对OpenFeign的源码动态代理生成原理和Ribbon的运行原理有更深入的了解,可关注微信公众号“三友的执行java日记”,通过菜单栏查看整理的源码文本屏源码相关内容。接下来,执行我们将继续深入SpringCloud组件原理,源码探讨OpenFeign是执行如何利用Ribbon实现负载均衡的,以及两组件如何协同工作的源码。
一、执行Feign动态代理调用实现rpc流程解析
我们从Feign客户端接口的源码动态代理生成原理出发,了解到动态代理基于JDK实现,执行所有方法调用最终都会调用到InvocationHandler接口的源码实现,即ReflectiveFeign.FeignInvocationHandler。执行接下来,我们将深入探讨FeignInvocationHandler如何实现rpc调用。
FeignInvocationHandler通过invoke方法实现动态代理功能,其主要逻辑如下:
1. 对于调用的方法是否为equals、hashCode、toString等特殊方法进行判断,psd手机广告源码若为则无需走rpc调用。
2. 从dispatch获取调用方法对应的MethodHandler,然后调用MethodHandler的invoke方法。
3. MethodHandler在构建动态代理时生成,作用是最终实现rpc调用,每个方法有对应的MethodHandler。
4. SynchronousMethodHandler是实现rpc调用的关键类,通过构造RequestTemplate、Options和重试组件,发起.netflix.client.conf.CommonClientConfigKeyã
<clientName>.<nameSpace>.NFLoadBalancerClassName=xx
<clientName>.<nameSpace>.NFLoadBalancerRuleClassName=xx
<clientName>.<nameSpace>.NFLoadBalancerPingClassName=xx
<clientName>.<nameSpace>.NIWSServerListClassName=xx
<clientName>.<nameSpace>.NIWSServerListFilterClassName=xx
com.netflix.client.config.IClientConfigï¼Ribbonç客æ·ç«¯é ç½®ï¼é»è®¤éç¨com.netflix.client.config.DefaultClientConfigImplå®ç°ã
com.netflix.loadbalancer.IRuleï¼Ribbonçè´è½½åè¡¡çç¥ï¼é»è®¤éç¨com.netflix.loadbalancer.ZoneAvoidanceRuleå®ç°ï¼è¯¥çç¥è½å¤å¨å¤åºåç¯å¢ä¸éåºæä½³åºåçå®ä¾è¿è¡è®¿é®ã
com.netflix.loadbalancer.IPingï¼Ribbonçå®ä¾æ£æ¥çç¥ï¼é»è®¤éç¨com.netflix.loadbalancer.NoOpPingå®ç°ï¼è¯¥æ£æ¥çç¥æ¯ä¸ä¸ªç¹æ®çå®ç°ï¼å®é ä¸å®å¹¶ä¸ä¼æ£æ¥å®ä¾æ¯å¦å¯ç¨ï¼èæ¯å§ç»è¿åtrueï¼é»è®¤è®¤ä¸ºæææå¡å®ä¾é½æ¯å¯ç¨çã
com.netflix.loadbalancer.ServerListï¼æå¡å®ä¾æ¸ åçç»´æ¤æºå¶ï¼é»è®¤éç¨com.netflix.loadbalancer.ConfigurationBasedServerListå®ç°ã
com.netflix.loadbalancer.ServerListFilterï¼æå¡å®ä¾æ¸ åè¿æ»¤æºå¶ï¼é»è®¤éorg.springframework.cloud.netflix.ribbon.ZonePreferenceServerListFilterï¼è¯¥çç¥è½å¤ä¼å è¿æ»¤åºä¸è¯·æ±æ¹å¤äºååºåçæå¡å®ä¾ã
com.netflix.loadbalancer.ILoadBalancerï¼è´è½½åè¡¡å¨ï¼é»è®¤éç¨com.netflix.loadbalancer.ZoneAwareLoadBalancerå®ç°ï¼å®å ·å¤äºåºåæç¥çè½åã
ä¸é¢çé ç½®æ¯å¨é¡¹ç®ä¸æ²¡æå¼å ¥spring Cloud Eurekaï¼å¦æå¼å ¥äºEurekaåRibbonä¾èµæ¶ï¼èªå¨åé ç½®ä¼æä¸äºä¸åã
éè¿èªå¨åé ç½®çå®ç°ï¼å¯ä»¥è½»æ¾çå®ç°å®¢æ·ç«¯çè´è½½åè¡¡ãåæ¶ï¼é对ä¸äºä¸ªæ§åéæ±ï¼æ们å¯ä»¥æ¹ä¾¿çæ¿æ¢ä¸é¢çè¿äºé»è®¤å®ç°ï¼åªéè¦å¨springbootåºç¨ä¸å建对åºçå®ç°å®ä¾å°±è½è¦çè¿äºé»è®¤çé ç½®å®ç°ã
@Configuration
public class MyRibbonConfiguration {
@Bean
public IRule ribbonRule(){
return new RandomRule();
}
}
è¿æ ·å°±ä¼ä½¿ç¨P使ç¨äºRandomRuleå®ä¾æ¿ä»£äºé»è®¤çcom.netflix.loadbalancer.ZoneAvoidanceRuleã
ä¹å¯ä»¥ä½¿ç¨@RibbonClient注解å®ç°æ´ç»ç²åº¦ç客æ·ç«¯é ç½®
对äºRibbonçåæ°é常æäºç§æ¹å¼ï¼å ¨å±é 置以åæå®å®¢æ·ç«¯é ç½®
å ¨å±é ç½®çæ¹å¼å¾ç®å
åªéè¦ä½¿ç¨ribbon.<key>=<value>æ ¼å¼è¿è¡é ç½®å³å¯ãå ¶ä¸ï¼<key>代表äºRibbon客æ·ç«¯é ç½®çåæ°åï¼<value>å代表äºå¯¹åºåæ°çå¼ãæ¯å¦ï¼æ们å¯ä»¥æ³ä¸é¢è¿æ ·é ç½®Ribbonçè¶ æ¶æ¶é´
ribbon.ConnectTimeout=
ribbon.ServerListRefreshInterval= ribbonè·åæå¡å®æ¶æ¶é´
å ¨å±é ç½®å¯ä»¥ä½ä¸ºé»è®¤å¼è¿è¡è®¾ç½®ï¼å½æå®å®¢æ·ç«¯é ç½®äºç¸åºçkeyçå¼æ¶ï¼å°è¦çå ¨å±é ç½®çå 容
æå®å®¢æ·ç«¯çé ç½®æ¹å¼
<client>.ribbon.<key>=<value>çæ ¼å¼è¿è¡é ç½®.<client>表示æå¡åï¼æ¯å¦æ²¡ææå¡æ²»çæ¡æ¶çæ¶åï¼å¦Eurekaï¼ï¼æ们éè¦æå®å®ä¾æ¸ åï¼å¯ä»¥æå®æå¡åæ¥å详ç»çé ç½®ï¼
user-service.ribbon.listOfServers=localhost:,localhost:,localhost:
对äºRibbonåæ°çkey以åvalueç±»åçå®ä¹ï¼å¯ä»¥éè¿æ¥çcom.netflix.client.config.CommonClientConfigKeyç±»ã
å½å¨spring Cloudçåºç¨åæ¶å¼å ¥Spring cloud RibbonåSpring Cloud Eurekaä¾èµæ¶ï¼ä¼è§¦åEurekaä¸å®ç°ç对Ribbonçèªå¨åé ç½®ãè¿æ¶çserverListçç»´æ¤æºå¶å®ç°å°è¢«com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerListçå®ä¾æè¦çï¼è¯¥å®ç°ä¼è®²æå¡æ¸ åå表交ç»Eurekaçæå¡æ²»çæºå¶æ¥è¿è¡ç»´æ¤ãIPingçå®ç°å°è¢«com.netflix.niws.loadbalancer.NIWSDiscoveryPingçå®ä¾æè¦çï¼è¯¥å®ä¾ä¹å°å®ä¾æ¥å£çä»»å¡äº¤ç»äºæå¡æ²»çæ¡æ¶æ¥è¿è¡ç»´æ¤ãé»è®¤æ åµä¸ï¼ç¨äºè·åå®ä¾è¯·æ±çServerListæ¥å£å®ç°å°éç¨Spring Cloud Eurekaä¸å°è£ çorg.springframework.cloud.netflix.ribbon.eureka.DomainExtractingServerListï¼å ¶ç®çæ¯ä¸ºäºè®©å®ä¾ç»´æ¤çç¥æ´å éç¨ï¼æ以å°ä½¿ç¨ç©çå æ°æ®æ¥è¿è¡è´è½½åè¡¡ï¼èä¸æ¯ä½¿ç¨åççAWS AMIå æ°æ®ãå¨ä¸Spring cloud Eurekaç»å使ç¨çæ¶åï¼ä¸éè¦åå»æå®ç±»ä¼¼çuser-service.ribbon.listOfServersçåæ°æ¥æå®å ·ä½çæå¡å®ä¾æ¸ åï¼å 为Eurekaå°ä¼ä¸ºæ们维æ¤æææå¡çå®ä¾æ¸ åï¼è对äºRibbonçåæ°é ç½®ï¼æ们ä¾ç¶å¯ä»¥éç¨ä¹åç两ç§é ç½®æ¹å¼æ¥å®ç°ã
æ¤å¤ï¼ç±äºspring Cloud Ribboné»è®¤å®ç°äºåºå亲åçç¥ï¼æ以ï¼å¯ä»¥éè¿Eurekaå®ä¾çå æ°æ®é ç½®æ¥å®ç°åºååçå®ä¾é ç½®æ¹æ¡ãæ¯å¦å¯ä»¥å°ä¸åæºæ¿çå®ä¾é ç½®æä¸åçåºåå¼ï¼ä½ä¸ºè·¨åºåç容å¨æºå¶å®ç°ãèå®ç°ä¹é常ç®åï¼åªéè¦æå¡å®ä¾çå æ°æ®ä¸å¢å zoneåæ°æ¥æå®èªå·±æå¨çåºåï¼æ¯å¦ï¼
eureka.instance.metadataMap.zone=shanghai
å¨Spring Cloud Ribbonä¸Spring Cloud Eurekaç»åçå·¥ç¨ä¸ï¼æ们å¯ä»¥éè¿åæ°ç¦ç¨Eureka对Ribbonæå¡å®ä¾çç»´æ¤å®ç°ãè¿æ¶åéè¦èªå·±å»ç»´æ¤æå¡å®ä¾å表äºã
ribbon.eureka.enabled=false.
ç±äºSpring Cloud Eurekaå®ç°çæå¡æ²»çæºå¶å¼ºè°äºcapåççapæºå¶ï¼å³å¯ç¨æ§åå¯é æ§ï¼ï¼ä¸zookeeperè¿ç±»å¼ºè°cpï¼ä¸è´æ§ï¼å¯é æ§ï¼æå¡è´¨éæ¡æ¶æ大çåºå«å°±æ¯ï¼Eureka为äºå®ç°æ´é«çæå¡å¯ç¨æ§ï¼çºç²äºä¸å®çä¸è´æ§ï¼å¨æ端æ åµä¸å®æ¿æ¥åæ éå®ä¾ä¹ä¸è¦ä¸¢å¼"å¥åº·"å®ä¾ã
æ¯å¦è¯´ï¼å½æå¡æ³¨åä¸å¿çç½ç»åçæ éæå¼æ¶åï¼ç±äºææçæå¡å®ä¾æ æ³ç»´æ¤ç»çº¦å¿è·³ï¼å¨å¼ºè°apçæå¡æ²»çä¸å°ä¼ææææå¡å®ä¾åé¤æï¼èEurekaåä¼å ä¸ºè¶ è¿%çå®ä¾ä¸¢å¤±å¿è·³è触åä¿æ¤æºå¶ï¼æ³¨åä¸å¿å°ä¼ä¿çæ¤æ¶çææèç¹ï¼ä»¥å®ç°æå¡é´ä¾ç¶å¯ä»¥è¿è¡äºç¸è°ç¨çåºæ¯ï¼å³ä½¿å ¶ä¸æé¨åæ éèç¹ï¼ä½è¿æ ·åå¯ä»¥ç»§ç»ä¿é大å¤æ°æå¡çæ£å¸¸æ¶è´¹ã
å¨Camdençæ¬ï¼æ´åäºspring retryæ¥å¢å¼ºRestTemplateçéè¯è½åï¼å¯¹äºæ们å¼åè æ¥è¯´ï¼åªéè¦ç®åé ç½®ï¼å³å¯å®æéè¯çç¥ã
spring.cloud.loadbalancer.retry.enabled=true
hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds=
user-service.ribbon.ConnectTimeout=
user-service.ribbon.ReadTimeout=
user-service.ribbon.OkToRetryOnAllOperations=true
user-service.ribbon.MaxAutoRetriesNextServer=2
user-service.ribbon.maxAutoRetries=1
spring.cloud.loadbalancer.retry.enabled:该åæ°ç¨æ¥å¼å¯éè¯æºå¶ï¼å®é»è®¤æ¯å ³éçã
hystrix.command.default.execution.isolation.thread.timeoutInMillisecondsï¼æè·¯å¨çè¶ æ¶æ¶é´éè¦å¤§äºRibbonçè¶ æ¶æ¶é´ï¼ä¸ç¶ä¸ä¼è§¦åéè¯ã
user-service.ribbon.ConnectTimeoutï¼è¯·æ±è¿æ¥è¶ æ¶æ¶é´ã
user-service.ribbon.ReadTimeoutï¼è¯·æ±å¤ççè¶ æ¶æ¶é´
user-service.ribbon.OkToRetryOnAllOperationsï¼å¯¹æææä½è¯·æ±é½è¿è¡éè¯ã
user-service.ribbon.MaxAutoRetriesNextServerï¼åæ¢å®ä¾çéè¯æ¬¡æ°ã
user-service.ribbon.maxAutoRetriesï¼å¯¹å½åå®ä¾çéè¯æ¬¡æ°ã
æ ¹æ®ä»¥ä¸é ç½®ï¼å½è®¿é®å°æ é请æ±çæ¶åï¼å®ä¼åå°è¯è®¿é®ä¸æ¬¡å½åå®ä¾ï¼æ¬¡æ°ç±maxAutoRetriesé ç½®ï¼ï¼å¦æä¸è¡ï¼å°±æ¢ä¸ä¸ªå®ä¾è¿è¡è®¿é®ï¼å¦æè¿æ¯ä¸è¡ï¼åæ¢ä¸ä¸ªå®ä¾è®¿é®ï¼æ´æ¢æ¬¡æ°ç±MaxAutoRetriesNextServeré ç½®ï¼ï¼å¦æä¾ç¶ä¸è¡ï¼è¿å失败
项ç®å¯å¨çæ¶åä¼èªå¨ç为æ们å è½½LoadBalancerAutoConfigurationèªå¨é 置类ï¼è¯¥èªå¨é 置类åå§åæ¡ä»¶æ¯è¦æ±classpathå¿ é¡»è¦æRestTemplateè¿ä¸ªç±»ï¼å¿ é¡»è¦æLoadBalancerClientå®ç°ç±»ã
LoadBalancerAutoConfiguration为æ们干äºäºä»¶äºï¼ç¬¬ä¸ä»¶æ¯å建äºLoadBalancerInterceptoræ¦æªå¨beanï¼ç¨äºå®ç°å¯¹å®¢æ·ç«¯å起请æ±æ¶è¿è¡æ¦æªï¼ä»¥å®ç°å®¢æ·ç«¯è´è½½åè¡¡ãå建äºä¸ä¸ª
RestTemplateCustomizerçbeanï¼ç¨äºç»RestTemplateå¢å LoadBalancerInterceptoræ¦æªå¨ã
æ¯æ¬¡è¯·æ±çæ¶åé½ä¼æ§è¡org.springframework.cloud.client.loadbalancer.LoadBalancerInterceptorçinterceptæ¹æ³ï¼èLoadBalancerInterceptorå ·æLoadBalancerClientï¼å®¢æ·ç«¯è´è½½å®¢æ·ç«¯ï¼å®ä¾çä¸ä¸ªå¼ç¨ï¼
å¨æ¦æªå¨ä¸éè¿æ¹æ³è·åæå¡åç请æ±urlï¼æ¯å¦/p/1bddb5dc
Spring cloudç³»åå Ribbonçåè½æ¦è¿°ã主è¦ç»ä»¶åå±æ§æ件é ç½®
/p/faffa
æ¬äººæéäºç¬è®°ä¸è®°å½çåèæç«
ææ¡£ï¼_ribbon è´è½½åè¡¡.note
é¾æ¥ï¼/noteshare?id=efc3efbbefd8ed0b9&sub=B0E6DFEEBDAF
netflix已经有了feign这个httpclient,为什么还要开发ribb
Feign与Ribbon在设计上定位不同,Feign主打远程过程调用(RPC),虽然基于HTTP,但能屏蔽请求细节,用户只需声明接口,即可实现远程服务调用,无需关心HTTP请求细节或参数封装。而Ribbon则专注于负载均衡,RPC功能不是其强项,其主要优势在于从注册中心获取服务实例。二者互补,代理商城源码Feign无需Ribbon也能实现调用,只需指定服务IP和端口;Ribbon也无需Feign,但需实现HTTP请求参数封装。选择两者结合,源于解耦和单一职责原则。
整合原理可参考相关文章。本文继续解析SpringCloud组件原理,重点剖析OpenFeign如何基于Ribbon实现负载均衡,以及二者如何协同工作。
一、Feign动态代理调用实现RPC流程分析
Feign客户端接口的动态代理生成基于JDK动态代理,通过FeignInvocationHandler实现方法调用。FeignInvocationHandler对invoke方法的实现避免了不需要RPC调用的方法(如equals、hashCode、toString)。通过dispatch获取要调用方法对应的MethodHandler,执行MethodHandler的invoke方法。MethodHandler在构建动态代理时生成,负责实现RPC调用。SynchronousMethodHandler处理RPC调用,传奇1.5游戏源码其invoke方法构建RequestTemplate,封装HTTP请求参数。执行findOptions(argv)获取配置参数,使用重试组件,最后调用Client接口实现请求发送。
二、LoadBalancerFeignClient
Feign动态代理调用的关键在于Client,用于发送HTTP请求。通过分析可知,Feign客户端构建动态代理时,填充组件包括LoadBalancerFeignClient,实现Ribbon整合。FeignRibbonClientAutoConfiguration配置类导入相关组件并声明LoadBalancerFeignClient,注入Client实现、CachingSpringLoadBalancerFactory和SpringClientFactory,构建Feign.Builder的实现。
LoadBalancerFeignClient实现整合过程,获取服务名,调用CachingSpringLoadBalancerFactory创建FeignLoadBalancer,实现负载均衡与请求发送。代购产品溯源码
三、FeignLoadBalancer
FeignLoadBalancer为核心组件,负责选择负载均衡并发送HTTP请求。执行executeWithLoadBalancer重构请求路径,调用execute方法,基于特定Client实现发送请求,最终返回RibbonResponse。
四、总结
本文全面解析了OpenFeign、Ribbon以及Nacos组件在微服务架构中的协同工作原理。OpenFeign实现RPC调用时,Ribbon从注册中心获取服务实例列表,实现负载均衡。Ribbon与Nacos(或其它注册中心)协同工作,确保服务发现和负载均衡的高效执行。通过本文,读者应能理解这三个组件在微服务架构中的作用,并对它们的源码有基本认识。
SpringCloud(3):使用Ribbon进行负载均衡配置,以及遇坑指南
使用Ribbon进行负载均衡配置是Spring Cloud体系中的一种关键实践。由于Eureka中已经集成了Ribbon,因此无需额外引入依赖。启动多个服务提供方时,在服务消费方的启动类中启用@LoadBalanced注解来激活负载均衡机制。将@LoadBalanced注解添加到消费方的RestTemplate方法上,即可实现通过服务名调用提供方的服务。
在配置过程中,服务消费方通常使用DiscoveryClient来获取提供方的服务列表,并通过该列表指定具体的服务实例及其主机和端口。然而,开启负载均衡后,系统会自动选择合适的服务实例,无需人工指定,以提升服务调用的效率和可用性。
值得注意的是,一旦使用了@LoadBalanced注解,直接访问提供方的特定主机名和端口号会引发异常(如java.lang.IllegalStateException: No instances available for localhost)。同时,服务名中应避免使用下划线,否则可能会遇到请求URI格式错误(如Request URI does not contain a valid hostname: service_provider/user/4...)的问题。
在消费方控制器中,实现远程服务调用时,负载均衡效果通过LoadBalancerInterceptor和RibbonLoadBalancerClient类的源码展现。RibbonLoadBalancerClient通过默认的轮询策略分配服务实例,而其他策略如随机策略则可以在消费方配置文件中进行指定。重新运行测试用例后,负载均衡策略的切换效果明显。
深入RibbonLoadBalancerClient源码,可以观察到通过BaseLoadBalancer类的chooseServer方法调用rule接口以执行负载均衡策略,其中轮询策略(RoundRobinRule)是默认设置。除了轮询策略之外,随机策略等其他负载均衡策略也可通过配置文件进行选择,以适应不同场景的需求。在实践过程中,通过测试和调整配置,可以有效提升服务调用的负载均衡效果。
Ribbon负载均衡分析
Ribbon使用介绍
Ribbon的使用非常简单,只需要在配置类中添加相应的配置即可。调用时,通过服务名在Eureka中注册的服务进行调用,Ribbon则自动进行负载均衡。以zhao-service-resume项目为例,开启多个服务实例并打印请求信息,即能观察到负载均衡的效果。Ribbon默认采用随机负载均衡策略(RandomRule),该策略全局生效,但可根据需求为不同服务设置不同的负载均衡策略。
Ribbon源码解析
自动装配类是配置加载的入口,例如LoadBalancerAutoConfiguration类。通过配置,LoadBalancerAutoConfiguration会自动注入带有@LoadBalanced注解的RestTemplate对象,并注入定制器RestTemplateCustomizer。在定制器代码中,添加了ClientHttpRequestInterceptor拦截器,该拦截器根据请求路径和地址执行负载均衡逻辑。最终,执行负载均衡策略选择服务端进行请求,实现负载均衡。服务列表的获取与更新在RibbonAutoConfigration中的SpringClientFactory和RibbonClientConfiguration类中实现,通过定时任务在ZoneAwareLoadBalancer的父类DynamicServerListLoadBalancer中重新赋值与更新服务列表。
springcloud中使用nacos做服务发现,其中“lb://”是什么连
在Spring Cloud中,当使用Nacos作为服务发现机制时,你可能会遇到"lb://"这样的标记。这个标记代表了负载均衡。当配置文件中出现这样的标记时,Spring Cloud Gateway理解为需要执行负载均衡策略,并将请求转发到服务名对应的某个服务器。其实,负载均衡的实现依赖于负载均衡组件,如Ribbon或Spring Cloud LoadBalancer,它们通过获取服务列表来完成负载均衡操作。
请注意,"lb://"这一标识与服务注册中心并无直接关联。无论是使用Nacos、Eureka还是其他注册中心,"lb://"的用法都是一样的。这个标记告诉Spring Cloud Gateway执行负载均衡,并将请求转发至对应的服务实例。
至于Ribbon能够获取到服务注册列表的原因,是因为服务注册中心需要与之进行适配。Nacos、Eureka等注册中心通常都与Ribbon进行了良好的适配,因此,你无需关心具体实现细节。如果你对这部分内容感兴趣,可以查看我在微信公众号“三友的Java日记”中发布的文章《一文带你看懂Nacos是如何整合Spring Cloud——注册中心篇》。这篇文章详细阐述了Nacos如何适配Ribbon,帮助你了解整个流程。
为了更深入理解Ribbon的负载均衡原理,你可以参考下面的资源:
Spring Cloud原理Ribbon核心组件以及运行原理源码剖析