[AWS] Developer Associate #3 Elastic Load Balancing(ELB)

로드밸런싱(Load balancing)이란?

• 로드 밸런싱은 클라이언트 요청을 처리하는 서버들에게 네트워크 트래픽을 균등하게 분배하는 것입니다.
• 로드 밸런싱을 수행하는 장치나 소프트웨어를 로드밸런서(Load balancer)라고 합니다.
• 로드 밸런싱을 통해 부하를 분산하여 애플리케이션의 가용성과 확장성 및 성능을 향상시킬수 있습니다.
• 로드 밸런서에 컴퓨팅 리소스를 추가 및 제거하여 수평적 확장할 수 있습니다.
• AWS는 로드 밸런싱 서비스로 ELB(Elastic Load Balancing)를 제공합니다.

ELB(Elastic Load Balancing)란?

• ELB는 클라이언트에게 트래픽을 받아 등록된 대상(target)으로 전달합니다.

• ELB는 클라이언트에 대한 단일 접점(single point of contact) 역할을 합니다.

• ELB는 리스너와 타겟 그룹으로 구성되어 있습니다.

• 리스너(Listeners)는 프로토콜과 포트 번호로 구성된 프로세스로 ELB로 들어오는 요청을 LISTEN하고 있습니다.

• 타겟 그룹(target group)은 부하 분산 대상을 정의한 것으로 리스너에 의해 트래픽이 전달되는 대상입니다.

• ELB는 헬스체크를 통해 target을 모니터링하고 target의 상태가 비정상이라면 트래픽을 전달하지 않고 상태가 정상인 target으로만 트래픽을 전달합니다.
  target이 다시 정상으로 감지되면 트래픽을 다시 전달합니다.

• 헬스 체크는 target group을 단위로 이루어집니다.

• ELB는 public IP를 가지는 internet-facing 또는 private IP만 가지는 internal로 구성할 수 있습니다.
  internet-facing 로드 밸런서와 internal 로드 밸런서는 모두 private IP를 사용하여 target으로 요청을 전달합니다.

• 로드 밸런서는 amazonaws.com 도메인을 사용하기 때문에 클라이언트는 ELB에 요청을 보내기 위해서 Amazon DNS 서버를 이용하여 ELB의 IP를 확인해야 합니다.

• Elastic Load Balancing(ELB)은 4가지 유형의 로드 밸런서를 지원합니다.

• CLB는 ELB v1이라고 하며 ALB, NLB, GWLB는 ELB v2라고 합니다.

CLB(Classic Load Balancer)

• EC2-Classic 네트워크에서 실행 중인 기존 애플리케이션이 있는 경우 CLB를 사용합니다.
• CLB는 새로운 애플리케이션에 사용하는 것이 권장하지 않습니다.

ALB(Application Load Balancer)

• ALB는 HTTP 및 HTTPS 트래픽을 처리할 때 사용합니다.
• ALB는 L7 로드 밸런서로 request 수준에서 동작합니다.
• ALB는 마이크로 서비스와 컨테이너 애플리케이션 아키텍처를 대상으로 고급 라우팅 기능과 가시성을 제공합니다.
• ALB의 IP는 고정되지 않고 변화합니다.
• ALB의 리스너는 다양한 routing rule을 제공합니다.
  • Host header 라우팅은 호스트 이름을 기반으로 라우팅합니다.
  • Path based 라우팅은 URL의 경로(Path)를 기반으로 라우팅합니다.
  • HTTP method은 request의 HTTP method(GET, POST 등)을 기반으로 라우팅합니다.
  • Source IP는 request의 IP주소를 기반으로 라우팅합니다.
  • Query string은 쿼리 문자열의 키/값을 기반으로 라우팅합니다.

NLB(Network Load Balancer)

• NLB는 고성능의 로드밸런싱, 대규모 TLS offloading, UDP 지원, Static IP 주소가 필요할 때 사용합니다.
• NLB는 L4 로드 밸런서로 connection 수준에서 동작합니다.
• NLB는 ultra-low한 지연 시간을 유지하면서 초당 수백만개의 요청을 안전하게 처리할 수 있습니다.
• NLB는 고정 IP를 제공하므로 ALB에 고정 IP를 제공하기 위해 많이 사용합니다.
• NLB의 리스너는 수신한 요청을 전달할 target group을 지정합니다.

GWLB(Gateway Load Balancer)

• GWLB는 GENEVE를 지원하는 third-party virtual appliance를 배포해야하는 경우 사용합니다.
• GWLB는 L3 로드 밸런서로 모든 포트에서 모든 IP 패킷을 수신하고 target으로 트래픽을 전달합니다.
• GWLB와 virtual appliance는 6081 GENEVE 프로토콜을 사용하여 트래픽을 교환합니다.
• third-party appliance는 보안과 컴플라이언스(내부통제)를 강화하기 위해 사용합니다.

교차 영역 로드 밸런싱(Cross-zone load balancing)

• 교차 영역 로드 밸런싱을 활성화하면 모든 target에 동일하게 트래픽을 분산합니다.
• 교차 영역 로드 밸런싱을 비활성화하면 AZ 수준에서 트래픽을 분산합니다.
• ALB는 로드 밸런서 수준에서 교차 영역 로드 밸런싱이 항상 사용됩니다. target group에서 교차 영역 로드 밸런싱을 비활성화할 수 있습니다.
• NLB와 GWLB는 기본적으로 교차 영역 로드 밸런싱이 비활성화되어 있습니다.

SSL/TLS

• SSL은 CLB, ALB, NLB에서 사용할 수 있습니다.
• CLB는 1개의 SSL 인증서만을 적용 가능하고 ALB와 NLB는 여러개의 SSL 인증서를 적용할 수 있습니다.

Sticky session

• Sticky session(고정 세션)은 로드 밸런서가 사용자의 모든 요청을 동일한 target으로 전송하도록 하는 방법입니다.
• Sticky session의 핵심은 로드 밸런서가 얼마나 동안 사용자의 요청을 동일한 대상으로 전달하도록 할지를 결정하는 것입니다.
• Sticky session을 사용하기 위해서는 클라이언트가 cookie를 지원해야 합니다.
• Sticky session은 target group 수준에서 활성화됩니다.
• Sticky session은 클라이언트에게 지속적인 서비스를 제공하기 위해 state를 유지합니다.
• Sticky session은 Session affinity라고도 합니다.