App下載

詳解SpringCloud中Ribbon工具及具體調(diào)用方法

猿友 2021-07-27 09:54:23 瀏覽數(shù) (2551)
反饋

一、簡介

1. 是什么

  • Spring Cloud Ribbon是基于Netflix Ribbon實(shí)現(xiàn)的一套客戶端負(fù)載均衡的工具。
  • 簡單的說,Ribbon是Netflix發(fā)布的開源項(xiàng)目,主要功能是提供客戶端的軟件負(fù)載均衡算法和服務(wù)調(diào)用。
  • 官方文檔
  • 目前已進(jìn)入維護(hù)狀態(tài),以后可以通過Open Feign作為替代方案
  • 負(fù)載均衡+RestTemplate,實(shí)現(xiàn)負(fù)載均衡調(diào)用

2. 負(fù)載均衡

  • 負(fù)載均衡(Load Balance,LB),即將用戶的請(qǐng)求平攤到多個(gè)服務(wù)上,從而達(dá)到系統(tǒng)的高可用(HA)
  • 負(fù)載均衡分為兩種方案:集中式LB、進(jìn)程內(nèi)LB

2.1 集中式LB

  • 即服務(wù)方和消費(fèi)方之間使用獨(dú)立的LB設(shè)施,由該設(shè)備負(fù)責(zé)把訪問請(qǐng)求通過某種策略轉(zhuǎn)發(fā)至服務(wù)提供方。
  • 比如說Nginx、Gateway、zuul等

2.2 進(jìn)程內(nèi)LB

  • 負(fù)載均衡的算法集成到消費(fèi)方,消費(fèi)方在注冊(cè)中心中獲取可用地址,然后通過LB算法選擇出一個(gè)合適的服務(wù)器。
  • Ribbon就屬于進(jìn)程內(nèi)LB,它只是一個(gè)類庫,集成于消費(fèi)方進(jìn)程,消費(fèi)方通過它來獲取到服務(wù)方提供的地址。

二、實(shí)驗(yàn)

Ribbon集成在spring-cloud-starter-netflix-eureka-client中,可以參考eureka的使用。在此基礎(chǔ)上簡單修改一下,就可以完成服務(wù)調(diào)用及負(fù)載均衡

1. RestTemplate

  • 官網(wǎng)
  • 通過RestTemplate,可以實(shí)現(xiàn)HttpClient的功能,只需要給它提供一個(gè)url及返回類型,即可實(shí)現(xiàn)遠(yuǎn)程方法調(diào)用。

1.1 加入到IOC容器

首先,將其加入到IOC容器中。@LoadBalanced表示開啟負(fù)載均衡。

@Configuration
public class ApplicationContextConfig {
  @Bean
  @LoadBalanced
  public RestTemplate restTemplate() {
    return new RestTemplate();
  }
}

1.2 RestTemplate 遠(yuǎn)程調(diào)用

@Slf4j
@RestController
@RequestMapping("/order")
public class OrderController {
  @Autowired
  RestTemplate restTemplate;  // 在ioc容器中獲取
  @Value("${payment.url}")
  String paymentUrl;  // 遠(yuǎn)程調(diào)用的URL,保存在配置文件中,解耦

  @GetMapping("/payment/get/{id}")
  public CommonResult<Payment> getPaymentById(@PathVariable("id") Long id) {
    CommonResult<Payment> result = restTemplate.getForObject(paymentUrl + "/payment/get/" + id, CommonResult.class);  // get方法調(diào)用,并且返回封裝成 CommonResult 類型
    log.info("Order 查詢 Payment,id:" + id);
    return result;
  }
}

也可以使用getForEntity()方法,獲取整個(gè)響應(yīng),自己在響應(yīng)中獲取想要的內(nèi)容。

  @GetMapping("/payment/getEntity/{id}")
  public CommonResult<Payment> getPaymentEntityById(@PathVariable("id") Long id) {
    ResponseEntity<CommonResult> entity = restTemplate.getForEntity(paymentUrl + "/payment/get/" + id, CommonResult.class);
    log.info("獲取到的信息是:" + entity.toString());
    log.info("獲取到的StatusCode是:" + entity.getStatusCode());
    log.info("獲取到的StatusCodeValue是:" + entity.getStatusCodeValue());
    log.info("獲取到的Headers是:" + entity.getHeaders());

    if (entity.getStatusCode().is2xxSuccessful()) {
      log.info("查詢成功:" + id);
      return entity.getBody();
    } else {
      log.info("查詢失?。? + id);
      return new CommonResult<>(CommonResult.FAIlURE, "查詢失敗");
    }
  }

如果使用post方法,就將get改成post就好了。

1.3 配置文件

url,可以寫具體的地址,表示直接調(diào)用該地址;也可以寫在eureka的服務(wù)名,首先在eureka中獲取該服務(wù)的所有地址,再通過LB選擇一個(gè)。

payment:
  url: "http://CLOUD-PAYMENT-SERVICE"

2. LoadBalancer

上面通過@LoadBalanced開啟了負(fù)載均衡。默認(rèn)使用輪詢算法,也可以修改成其他算法。

Class 算法
com.netflix.loadbalancer.RoundRobinRule 輪詢,默認(rèn)算法
com.netflix.loadbalancer.RandomRule 隨機(jī)算法,通過產(chǎn)生隨機(jī)數(shù)選擇服務(wù)器
com.netflix.loadbalancer.RetryRule 先按照RoundRobinRule的策略獲取服務(wù),如果獲取服務(wù)失敗則在指定時(shí)間內(nèi)會(huì)進(jìn)行重試,獲取可用的服務(wù)
WeightedResponseTimeRule 對(duì)RoundRobinRule的擴(kuò)展,響應(yīng)速度越快的實(shí)例選擇權(quán)重越大,越容易被選擇
BestAvailableRule 會(huì)先過濾掉由于多次訪問故障而處于斷路器跳閘狀態(tài)的服務(wù),然后選擇一個(gè)并發(fā)量最小的服務(wù)
AvailabilityFilteringRule 先過濾掉故障實(shí)例,再選擇并發(fā)較小的實(shí)例
ZoneAvoidanceRule 默認(rèn)規(guī)則,復(fù)合判斷server所在區(qū)域的性能和server的可用性選擇服務(wù)器

2.1 修改負(fù)載均衡算法

如果想讓該算法只針對(duì)某個(gè)服務(wù),則不能將其放在ComponentScan夠得到的地方,否則會(huì)修改所有服務(wù)的負(fù)載均衡算法。因此,最好在外面再新建一個(gè)package,用來放這個(gè)LB

@Configuration
public class MyRule {
  @Bean
  public IRule rule() {
    return new RandomRule();
  }
}

在主啟動(dòng)類上,標(biāo)識(shí)一下服務(wù)與算法直接的映射關(guān)系

@SpringBootApplication
@EnableEurekaClient
@RibbonClient(name = "CLOUD-PAYMENT-SERVICE", configuration = MyRule.class)
public class OrderApplication80 {
  public static void main(String[] args) {
    SpringApplication.run(OrderApplication80.class, args);
  }
}

如果嫌這種方法麻煩,也可以使用配置文件的方法

CLOUD-PAYMENT-SERVICE:  # 服務(wù)名稱
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule  # 算法選擇

3. 負(fù)載均衡算法源碼

以默認(rèn)的RoundRobinRule作為閱讀的源碼,其他的源碼基本上很類似,只是修改的選擇服務(wù)器的代碼。

2021524114944167

  • RoundRobinRule父類為AbstractLoadBalancerRule,AbstractLoadBalancerRule實(shí)現(xiàn)了接口IRule

3.1 IRule

public interface IRule {
  Server choose(Object var1);  // 選擇服務(wù)器,最重要的方法

  void setLoadBalancer(ILoadBalancer var1);

  ILoadBalancer getLoadBalancer();
}

3.2 AbstractLoadBalancerRule

基本沒什么作用,只是將公共的部分提取了出來進(jìn)行實(shí)現(xiàn)。

public abstract class AbstractLoadBalancerRule implements IRule, IClientConfigAware {
  private ILoadBalancer lb;  // ILoadBalancer接口,主要的功能就是獲取當(dāng)前服務(wù)器的狀態(tài)、數(shù)量等,為負(fù)載均衡算法提供計(jì)算的參數(shù)

  public AbstractLoadBalancerRule() {
  }

  public void setLoadBalancer(ILoadBalancer lb) {
    this.lb = lb;
  }

  public ILoadBalancer getLoadBalancer() {
    return this.lb;
  }
}

3.3 RoundRobinRule

簡單來說,就是通過一個(gè)計(jì)數(shù)器,實(shí)現(xiàn)了輪詢

public class RoundRobinRule extends AbstractLoadBalancerRule {
  private AtomicInteger nextServerCyclicCounter;  // 原子類,用來保存一個(gè)計(jì)數(shù),記錄現(xiàn)在輪詢到哪了
  private static final boolean AVAILABLE_ONLY_SERVERS = true;
  private static final boolean ALL_SERVERS = false;
  private static Logger log = LoggerFactory.getLogger(RoundRobinRule.class);

  public RoundRobinRule() {
    this.nextServerCyclicCounter = new AtomicInteger(0);  // 初始化
  }

  public RoundRobinRule(ILoadBalancer lb) {  // 設(shè)置LoadBalancer
    this();
    this.setLoadBalancer(lb);
  }

  public Server choose(ILoadBalancer lb, Object key) {  // 最重要的方法,選擇服務(wù)器并返回
  // 下面貼出來
  }
 
  private int incrementAndGetModulo(int modulo) {  // 對(duì)計(jì)數(shù)器進(jìn)行修改,并返回一個(gè)選擇值,是輪詢算法的實(shí)現(xiàn)
  // 下面貼出來
  }

  public Server choose(Object key) {   // 接口的方法,在該類中調(diào)用了另一個(gè)方法實(shí)現(xiàn)
    return this.choose(this.getLoadBalancer(), key);
  }

  public void initWithNiwsConfig(IClientConfig clientConfig) {}
}

簡單來說,該方法就是根據(jù)目前的狀態(tài),選擇一個(gè)服務(wù)器返回。

public Server choose(ILoadBalancer lb, Object key) {
    if (lb == null) {  // 如果沒有LoadBalancer,那就不白費(fèi)功夫了
      log.warn("no load balancer");
      return null;
    } else {
      Server server = null;
      int count = 0;

      while(true) {  
        if (server == null && count++ < 10) {  // 嘗試十次,如果還找不到server就放棄了
          List<Server> reachableServers = lb.getReachableServers();  // 通過LB獲取目前所有可獲取的服務(wù)器
          List<Server> allServers = lb.getAllServers();  // 獲取實(shí)際上的所有服務(wù)器
          int upCount = reachableServers.size();  // 獲取目前可獲得的服務(wù)器數(shù)量
          int serverCount = allServers.size();  // 所有服務(wù)器的數(shù)量,這是取余的除數(shù)
          if (upCount != 0 && serverCount != 0) {  // 如果目前有服務(wù)器且服務(wù)器可用
            int nextServerIndex = this.incrementAndGetModulo(serverCount);  // 最關(guān)鍵的選擇算法,將目前的的服務(wù)器數(shù)量放進(jìn)去,返回一個(gè)選擇的號(hào)碼
            server = (Server)allServers.get(nextServerIndex);   // 根據(jù)下標(biāo)將服務(wù)器取出來
            if (server == null) {  // 如果取出來為空,表示目前不可用,則進(jìn)入下一個(gè)循環(huán)
              Thread.yield(); 
            } else {
              if (server.isAlive() && server.isReadyToServe()) {  // 如果該服務(wù)器活著且可以被使用,則直接將其返回
                return server;
              }

              server = null;
            }
            continue;
          }

          log.warn("No up servers available from load balancer: " + lb);
          return null;
        }

        if (count >= 10) {
          log.warn("No available alive servers after 10 tries from load balancer: " + lb);
        }

        return server;
      }
    }
  }

簡單來說,就是將目前的計(jì)數(shù)器+1取余,獲取一個(gè)下標(biāo),并返回。為了避免高并發(fā)的危險(xiǎn),采用CAS的方法進(jìn)行設(shè)置。

  private int incrementAndGetModulo(int modulo) {
    int current;
    int next;
    do {
      current = this.nextServerCyclicCounter.get();  // 獲取當(dāng)前值
      next = (current + 1) % modulo;  // +1取余
    } while(!this.nextServerCyclicCounter.compareAndSet(current, next));  // CAS,如果成功就返回,失敗就再來

    return next;
  }

以上就是關(guān)于Spring Cloud中 Ribbon 工具的簡要介紹以及調(diào)用 Ribbon 的步驟的詳細(xì)內(nèi)容,想要了解更多關(guān)于Spring Cloud Ribbon工具的其他資料請(qǐng)關(guān)注W3Cschool其它相關(guān)文章!也希望大家能夠多多地支持我們!


0 人點(diǎn)贊