로드 밸런싱이란 무엇이며 클라이언트 측에서 이를 수행하는 방법

'로드 밸런싱'은 워크로드를 유지하는 것으로 설명할 수 있습니다. 예를 들어, 아침에 1000개의 아침 식사를 제공해야 하는 경우 2~3명 이상의 케이터링 담당자에게 작업을 나누어 배달/준비 시간을 줄일 수 있습니다.

컴퓨터 세계에서도 동일한 논리가 적용됩니다. 빠르게 전달하고 싶다면 작업을 나눌 수 있습니다. 예를 들어 웹사이트의 경우 5~10개의 웹 서버를 보유할 수 있으면 이렇게 하면 웹사이트가 더 빠르게 전달됩니다(특히 트래픽이 많은 동안) ), 서버측입니다.

클라이언트 측 로드 밸런싱과 이것이 어떻게 작동하는지 이야기하고 싶습니다. 예를 들어 모든 요청에 ​​대해 백엔드를 쿼리하고 백엔드 작업을 수행하는 여러 서버가 있습니다. 이를 위해 WHOIS 서비스를 사용하겠습니다.

whois1.service.com whois2.service.com

가장 많이 사용되는 알고리즘과 기본 라운드 로빈이라는 두 서버의 모든 요청에 ​​대한 로드 밸런싱을 수행할 수 있습니다. 즉, who1, who2 who1 등과 같이 모든 요청이 서로 전달됩니다. 이는 클라이언트 측에서 " 스프링 클라우드 LoadBalancer”. 3개의 클래스를 구성해야 합니다

1. 백엔드 주소 및 포트 정의를 위한 ServiceInstanceListSupplier
2. 엔드 포인트 목록을 제공하기 위한 Bean ServiceInstanceListSupplier
3. 웹 클라이언트인 @LoadBalancerClient가 백엔드 호출에 사용됩니다

이제 백엔드에 대한 전체 설정이 완료되었습니다

public class RestCaller implements ServiceInstanceListSupplier {

    private final String serviceId;

    public RestCaller(String serviceId) {
        this.serviceId = serviceId;
    }

    @Override
    public String getServiceId() {
        return serviceId;
    }

    @Override
    public Flux<List<ServiceInstance>> get() {
        return Flux.just(Arrays.asList(
                new DefaultServiceInstance(serviceId, serviceId, "abc.cyclic.app", 443, true),
                new DefaultServiceInstance(serviceId, serviceId, "someting.koyeb.app", 443, true),
                new DefaultServiceInstance(serviceId, serviceId, "127.0.0.1", 8080, false)
        ));
    }
}


@Configuration
public class RestCallerConfiguration {

    @Autowired
    @Qualifier("webClientBuilder")
    WebClient.Builder webClientBuilder;

    @Bean
    @Primary
    ServiceInstanceListSupplier serviceInstanceListSupplier(ConfigurableApplicationContext ctx) {
        return ServiceInstanceListSupplier
                .builder()
                .withRetryAwareness()
                .withHealthChecks(webClientBuilder.build())
                .withBase(new RestCaller("whoisService"))
                .build(ctx);
    }
}


@Configuration
@LoadBalancerClient(name = "whoisService", configuration = RestCallerConfiguration.class)
public class WebClientConfig {

    @LoadBalanced
    @Bean
    @Qualifier("loadBalancedWebClientBuilder")
    WebClient.Builder loadBalancedWebClientBuilder() {
        return WebClient.builder();
    }

    @Bean
    @Qualifier("webClientBuilder")
    WebClient.Builder webClientBuilder() {
        return WebClient.builder();
    }

}

이제 모든 @Component 또는 @Service에서 사용할 수 있습니다.

@Component
public class WhoisCaller {

    @Autowired
    @Qualifier("loadBalancedWebClientBuilder")
    WebClient.Builder webClientBuilder;

    public String getWhois(String ip, String source) {
        String url = "http://whoisService/whois?ip=" + ip + "&source=" + source;

        return webClientBuilder.build()
                .get()
                .uri(url)
                .retrieve()
                .bodyToMono(String.class)
                .timeout(Duration.ofMinutes(1))
                .doOnError(e -> {
                    WebClientResponseException e1 = (WebClientResponseException) e;
                    log.error(e1.getRequest().getURI().getHost());
                })
                .block();
    }
}

참고자료:

• 스프링을 사용하여 클라이언트 측 로드 밸런싱을 구현하는 방법을 해결하기 위한 SO에 대한 내 질문
• Spring Cloud LoadBalancer

위 내용은 로드 밸런싱이란 무엇이며 클라이언트 측에서 이를 수행하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!