Spring Cloud를 현명하게 사용하여 마이크로서비스 아키텍처의 로드 밸런싱 문제 해결

엔터프라이즈 애플리케이션의 복잡성이 계속 증가함에 따라 애플리케이션을 여러 마이크로서비스로 분할하고 마이크로서비스 간 협업을 통해 전체 비즈니스 프로세스를 완료하는 기업이 점점 더 많아지고 있습니다. 이러한 아키텍처 접근 방식은 애플리케이션을 더욱 안정적이고 확장 가능하게 만들 수 있지만 로드 밸런싱, 서비스 검색 등과 같은 몇 가지 새로운 문제도 발생합니다. 이 기사에서는 Spring Cloud를 사용하여 마이크로서비스 아키텍처의 로드 밸런싱 문제를 해결하는 방법을 소개합니다.

로드 밸런싱이란 무엇입니까?

로드 밸런싱(로드 밸런싱)은 최적의 리소스 활용도, 최대 용량, 가장 빠른 응답 속도, 최고의 신뢰성 및 최대의 효율성을 달성하기 위해 여러 서버, 네트워크 장치 또는 애플리케이션 간에 로드를 할당하여 효율적이고 안정적인 서비스를 달성하는 것을 의미합니다.

예를 들어, 응용 프로그램 시스템의 방문 수가 많고 단일 서버가 모든 사용자 요청을 충족할 수 없는 경우 여러 서버를 통해 부하를 분산하여 시스템의 안정성, 처리량 및 응답 시간 등을 향상시킬 수 있습니다. 마이크로서비스 아키텍처에는 여러 마이크로서비스와 여러 서비스 인스턴스가 있으므로 로드 밸런싱도 필수적입니다.

일반적인 로드 밸런싱 알고리즘

로드 밸런싱 알고리즘에는 일반적으로 다음이 포함됩니다.

폴링 알고리즘

폴링 알고리즘은 가장 간단한 로드 밸런싱 알고리즘 중 하나입니다. 서비스 인스턴스 목록에 나열된 순서대로 각 서비스 인스턴스에 요청을 배포합니다. 모든 서비스 인스턴스에 요청이 할당된 후 처음부터 다시 배포합니다. 폴링 알고리즘의 장점은 간단하고 다양한 로드 시나리오에 적합하다는 점이지만, 일부 서비스 인스턴스의 로드가 너무 높아질 수 있다는 단점도 분명합니다.

Random Algorithm

랜덤 알고리즘은 요청을 서비스 인스턴스에 무작위로 할당하므로 대부분의 경우 서비스 인스턴스의 로드 불균형을 효과적으로 방지할 수 있지만 각 서비스 인스턴스에 할당된 요청이 동일하다고 보장할 수는 없습니다.

가중 폴링 알고리즘

가중 폴링 알고리즘은 폴링 알고리즘을 기반으로 개선된 것입니다. 즉, 서로 다른 서비스 인스턴스에 서로 다른 가중치(또는 비율)를 부여하여 각 서비스 인스턴스에 할당된 요청 수가 일치하도록 합니다. 가중치는 비례합니다. 이 알고리즘은 시스템을 더욱 유연하게 만들고 서비스 인스턴스의 실제 기능 수준에 따라 요청을 할당할 수 있습니다.

최소 연결 알고리즘

최소 연결 알고리즘은 현재 서비스 인스턴스의 실제 부하를 기준으로 부하가 가장 적은 서비스 인스턴스에 요청을 분산시키는 알고리즘입니다. 이 알고리즘은 각 서비스 인스턴스의 로드 밸런싱을 보장할 수 있지만 몇 가지 단점도 있습니다. 예를 들어 특정 요청이 다른 서비스 인스턴스에서 반복적으로 실행될 수 있습니다.

Spring Cloud는 로드 밸런싱을 구현합니다.

Spring Cloud는 로드 밸런싱을 위한 완벽한 솔루션을 제공합니다. 그 중 핵심 구성 요소 중 하나가 리본입니다. 리본은 다양한 HTTP 및 TCP 서비스 클라이언트와 함께 사용하여 클라이언트에게 보다 안정적이고 균형 잡힌 로드 기능을 제공할 수 있는 클라이언트 측 로드 밸런서입니다.

리본 사용 방법

리본 사용은 매우 간단합니다. Spring Boot 애플리케이션에 다음 종속성을 추가하기만 하면 됩니다.

<dependency>
  <groupId>org.springframework.cloud</groupId>
  <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>

그리고 로드 밸런싱을 사용해야 하는 경우 @LoadBalanced 주석으로 수정하세요.

@Autowired
@LoadBalanced
private RestTemplate restTemplate;

Rest 서비스에 액세스해야 하는 경우 RestTemplate의 요청 경로에 있는 URI의 일부로 서비스 이름만 사용하면 됩니다.

String result = restTemplate.getForObject("http://SERVICE-NAME/path", String.class);

그중 SERVICE-NAME은 서비스 이름이고 경로는 서비스 경로입니다. . 이때 리본은 구성된 로드 밸런싱 알고리즘을 기반으로 사용 가능한 서비스 인스턴스를 자동으로 선택하고 해당 서비스 인스턴스에 요청을 분산시킵니다. 서비스 인스턴스를 사용할 수 없는 경우 리본은 사용 가능한 다음 서비스 인스턴스를 자동으로 선택합니다.

Ribbon의 로드 밸런싱 전략

기본적으로 리본은 폴링 알고리즘을 사용하여 로드 밸런싱을 달성하며, 이는 구성 파일을 통해서도 지정할 수 있습니다. 다음은 몇 가지 일반적인 로드 밸런싱 전략입니다.

ribbon:
  LoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 随机负载均衡
  # LoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule # 轮询负载均衡
  # LoadBalancerRuleClassName: com.netflix.loadbalancer.WeightedResponseTimeRule # 带权重的随机负载均衡
  # LoadBalancerRuleClassName: com.netflix.loadbalancer.RepeatableRandomRule # 重试随机负载均衡
  # LoadBalancerRuleClassName: com.netflix.loadbalancer.AvailabilityFilteringRule # 豁免机房、实例挂掉等异常情况负载均衡

결론

이 기사에서는 Spring Cloud의 리본을 통해 마이크로서비스 아키텍처에서 로드 밸런싱을 구현하는 방법을 소개합니다. 리본을 사용하는 것은 매우 간단합니다. 로드 밸런싱이 필요한 경우 @LoadBalanced 주석만 수정하면 됩니다. 여러 서비스 인스턴스를 사용할 수 있는 경우 리본은 구성된 로드 밸런싱 정책을 기반으로 사용 가능한 서비스 인스턴스를 자동으로 선택하고 요청을 서비스 인스턴스에 분산하여 로드 밸런싱을 수행합니다.

위 내용은 Spring Cloud를 현명하게 사용하여 마이크로서비스 아키텍처의 로드 밸런싱 문제 해결의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!