SpringCloud LoadBalancer灰度策略实现

作者 : 开心源码 本文共3405个字,预计阅读时间需要9分钟 发布时间: 2022-05-13 共248人阅读

如何使用 Spring Cloud 2020 中重磅推荐的负载均衡器 Spring Cloud LoadBalancer (下文简称 SCL),如何扩展负载均衡策略?你将从本文中获取到答案

快速上手 SCL

假如项目中想使用 SCL,则仅需要增加如下 maven 依赖就可

<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-loadbalancer</artifactId></dependency>

SCL 是构建服务发现的基础上,因为目前 Spring Cloud Alibaba 并未兼容 SCL (具体兼容方案可以参考 pig[1]),当然你可以选择使用Eureka 测试。
若将 RestTemplate 和 用户端负载均衡结合使用,在 bean 定义上添加 @LoadBalanced 注解就可.

@Bean@LoadBalancedpublic RestTemplate restTemplate() {    return new RestTemplate();}

个性化负载均衡策略

目前版本 (spring cloud 2020) 内置轮询、随机的负载均衡策略,默认轮询策略。
当然可以通过 LoadBalancerClient 注解,指定服务级别的负载均衡策略

@LoadBalancerClient(value = "demo-provider", configuration = RandomLoadbalancerConfig.class)
public class RandomLoadbalancerConfig { @Bean public ReactorLoadBalancer<ServiceInstance> reactorServiceInstanceLoadBalancer(Environment environment,   LoadBalancerClientFactory loadBalancerClientFactory) {  String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);  return new RandomLoadBalancer(    loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name); }}

自己设置负载均衡策略
通过上文可知,目前 SCL 支持的负载均衡策略相较于 Ribbon 还是较少,需要开发者自行实现,好在 SCL 提供了便捷的 API 方便扩展使用。这里演示自己设置一个基于注册中心元数据的灰度负载均衡策略。

定义灰度负载均衡策略

@Slf4jpublic class GrayRoundRobinLoadBalancer extends RoundRobinLoadBalancer { private ObjectProvider<ServiceInstanceListSupplier> serviceInstanceListSupplierProvider; private String serviceId; @Override public Mono<Response<ServiceInstance>> choose(Request request) {  ServiceInstanceListSupplier supplier = serviceInstanceListSupplierProvider    .getIfAvailable(NoopServiceInstanceListSupplier::new);  return supplier.get(request).next().map(serviceInstances -> getInstanceResponse(serviceInstances, request)); } Response<ServiceInstance> getInstanceResponse(List<ServiceInstance> instances, Request request) {  // 注册中心无可用实例 抛出异常  if (CollUtil.isEmpty(instances)) {   log.warn("No instance available {}", serviceId);   return new EmptyResponse();  }  DefaultRequestContext requestContext = (DefaultRequestContext) request.getContext();  RequestData clientRequest = (RequestData) requestContext.getClientRequest();  HttpHeaders headers = clientRequest.getHeaders();  String reqVersion = headers.getFirst(CommonConstants.VERSION);  if (StrUtil.isBlank(reqVersion)) {   return super.choose(request).block();  }  // 遍历可以实例元数据,若匹配则返回此实例  for (ServiceInstance instance : instances) {   NacosServiceInstance nacosInstance = (NacosServiceInstance) instance;   Map<String, String> metadata = nacosInstance.getMetadata();   String targetVersion = MapUtil.getStr(metadata, CommonConstants.VERSION);   if (reqVersion.equalsIgnoreCase(targetVersion)) {    log.debug("gray requst match success :{} {}", reqVersion, nacosInstance);    return new DefaultResponse(nacosInstance);   }  }  // 降级策略,使用轮询策略  return super.choose(request).block(); }}

针对用户端注入灰度负载均衡策略

@LoadBalancerClient(value = "demo-provider", configuration = GrayRoundLoadbalancerConfig.class)

服务实例定义版本号

请求携带版本号,测试使用

curl --location --request GET 'http://localhost:6060/req?key=b' \--header 'VERSION: b'

优化负载均衡策略注入

如上文所述,所有的个性化负载策略都需要手动通过 LoadBalancerClient 注入非常的不方便。我们可以参考 LoadBalancerClients 的批量注入逻辑构造自己的 BeanRegistrar

public class GrayLoadBalancerClientConfigurationRegistrar implements ImportBeanDefinitionRegistrar { @Override public void registerBeanDefinitions(AnnotationMetadata metadata, BeanDefinitionRegistry registry) {  Field[] fields = ReflectUtil.getFields(ServiceNameConstants.class);  // 遍历服务名称,注入支持灰度策略的负载均衡器  for (Field field : fields) {   Object fieldValue = ReflectUtil.getFieldValue(ServiceNameConstants.class, field);   registerClientConfiguration(registry, fieldValue, GrayLoadBalancerClientConfiguration.class);  } }}
说明
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » SpringCloud LoadBalancer灰度策略实现

发表回复