로드밸런싱

🌞 로드밸런싱이란?

여러 서버의 작업을 분산하여 웹 사이트, 어플리케이션, 데이터베이스 등 서비스의 성능과 안정성을 향상시켜주며 고가용성 인프라의 핵심 구성요소

💡 고가용성이란?
가용성이 높다 : 서버와 네트워크, 데이터베이스 등 정보 시스템이 오랜시간 지속적으로 장애없이 정상 운영이 가능한 성질

💡 보안 3요소 : 가용성 / 기밀성 / 무결성

🌝 이점은?

1. 수평 확장
   고가의 서버로 수직확장하는 것이 아닌 저렴한 다수의 서버를 증설하는 수평확장 가능
2. 무중단 서비스
   서버 한대의 장애가 발생하거나 동기적인 작업을 처리하는 경우 다른 서버로 트래픽 분배하여 최종 사용자(End User)에게 영향이 없다
3. 대량의 트래픽 분배
   단일 서버에 높은 부하를 수행하지 않고 여러 서버에 작업을 분산하여 적은 양의 작업을 수행하게 하며 장애나 부하가 적은 구성을 경험한다

🌚 단점은?

1. 세션 데이터 관리
   특정 사용자에 대한 세션을 하나의 서버에 저장하는 경우 추후 다른 서버로 밸런싱된다면 클라이언트의 세션이 유지되지 않으며 부가적인 처리가 필요함

🤔 유형

• 하드웨어 로드밸런서
  애플리케이션과 네트워크 트래픽을 분산하기 위해 물리적 사내 하드웨어 장치에 의존하는 방식
  많은 트래픽을 처리할 수 있지만 가격이 높으며 유연성이 낮음
  ex. Switch
• 소프트웨어 로드밸런서
  사용 또는 오픈소스 어플리케이션을 설치하여 사용하는 방식
  하드웨어 로드밸런서에 비해 가격이 낮습니다.
  ex. Nginx, HAProxy

🔍 분산 알고리즘

• 라운드로빈
  요청에 대하여 서버를 순차적으로 선택하는 알고리즘
  각 서버의 성능과 처리시간이 짧은 어플리케이션에 권장
• 가중 라운드로빈
  각 서버의 가중치를 부여해 처리 용량을 지정하는 알고리즘
• 최소 연결 방식
  로드 밸런서가 연결이 가장 적은 서버를 선택하는 알고리즘
  다양한 처리용량(일정하지 않은 응답 속도, 서버의 성능차이)이 발생하는 어플리케이션에 권장
• IP 해시
  클라이언트의 IP주소를 특정 서버로 매핑하여 사용자와 항상 동일한 서버의 연결을 보장하는 알고리즘

💡 어떻게 정상 운용 상태의 서버를 판단할까?
Load Balancer는 주기적으로 전달 규칙에 정의된 프로토콜과 포트로 서버에 연결을 시도
연결에 실패하는 경우 Load Balancer 는 풀에서 해당 서버를 제외하고 다시 연결에 성공할때까지 트래픽을 전달하지 않음

⭐️ 주요기능

• NAT(Network Address Translation) : 네트워크 주소 변환
  네트워크 계층에서 IP 패킷의 TCP/UDP 포트 숫자와 출발지 및 목적지의 IP 주소 등을 재기록

  즉 다수의 서버의 사설 IP 를 하나의 공인 IP로 변환해주는 기능

  💡 NAT 와 Proxy 의 차이점은?
  

  NAT	Proxy
  네트워크 계층	응용계층
  사설 IP ↔ 공인 IP 역할	클라이언트와 서버 사이 중재자 역할
  Router 나 방화벽 등 주변 장치에 의해 동작	DMZ(내부, 외부 네트워크 사이 영역) Zone 에 배치하여 동작
  요청과 응답 사이 네트워크 계층에서 사설 IP 를 공인 IP 로 변경	요청과 응답이 Proxy Server 를 거쳐서 전송

• DSR(Dynamic Source Routing Protocol) : 동적 소스 라우팅 프로토콜
  서버에서 클라이언트로 요청에 대한 응답을 하는 경우 스위치의 IP가 아닌 클라이언트의 IP를 전달하여 네트워크 스위치를 거치지 않고 바로 클라이언트를 찾음
  Replicated Server 들이 큰 용량의 응답을 보내게 된다면 Client 로 전달전 Load Balancer 에서 병목 현상이 발생
  DSR 기능을 사용하여 큰 사이즈의 응답 패킷에 대해서 로드밸런서를 거치지 않고 바로 클라이언트로 전송

• Tunneling
  서버와 클라이언트간 중간에서 터널링을 제공
  연결된 상호 간에만 캡슐화된 패킷을 구별하여 캡슐화를 해제

🛎 종류

• L2

  • Layer 2 데이터 링크 계층에서 MAC 주소를 바탕으로 로드밸런싱
  • L2SDR 전략을 사용하려면 MAC 주소의 변환만 가능하므로 로드밸런서와 서버는 같은 네트워크에 존재해야됨

• L3

  • Layer 3 네트워크 계층에서 IP 를 기준으로 로드밸런싱
  • L2 에 라우팅 기능이 추가된 형태

• L4 = Network Load Balancing(NLB)

  • Layer 4 전송계층(TCP/UDP)에서 IP, Port 번호를 기준으로 로드밸런싱
  • VIP(Virtual IP)을 통해서 Replicated Servers 그룹화하여 관리
  • L2, L3 의 기능도 사용가능하며 섬세한 라우팅 처리를 제공
  • 주로 RR 방식의 알고리즘을 사용하지만 사용자로 인해 다른 알고리즘 사용 가능

  

• L7

  • Layer 7 응용계층에서 TCP/UDP 는 물론 URL, FTP, 쿠키 등의 정보를 기준으로 로드밸런싱
  • 상위 계층에서 로드를 분산하므로 다른 로드밸런서에 비해 더욱 섬세한 라우팅이 가능
  • 캐싱 기능을 제공
  • DoS/DDoS와 같은 비정상적인 트래픽을 사전에 필터링할 수 있음
  • 적절한 알고리즘을 사용해 로드밸런싱
  • TLS Termination 이 발생

    💡 TLS Termination 이란?
    SSL 로 암호화된 데이터 트래픽을 복호화하는 프로세스

  

📚 참고자료

로드밸런싱이란

로드밸런서의 기능, 분산 알고리즘 종류

로드밸런싱(Load Balancing)과 고가용성(HA)

L2, L3, L4, L7 로드밸런싱

L4, L7 오해할 수 있는 내용

NAT 의 역할

NAVER D2 HAProxy

SSL Termination이란 무엇인가?

더욱 Deep Dive