Link Search Menu Expand Document

Load Balancing(로드 밸런싱)

Load Balancing이란?

쏟아지는 트래픽을 여러대의 서버로 분산시켜 주는 기술

Load Balancing이 왜 필요할까?

현대의 모든 정보는 인터넷을 통해 연결되어있다. 인터넷의 발달은 데이터 통신을 보다 활발하게 만들었지만, 이는 트래픽의 폭발적인 증가로 이어진다. 그 결과 아무리 성능이 뛰어난 서버라고 해도 모든 트래픽을 감당해 낼 수 없게 된 것이다. 이에 기업은 서버를 추가로 구비하고 여러대의 서버에 동일한 데이터를 저장해 수많은 트래픽을 효과적으로 분산하게 되었다. 이러한 기술이 로드밸런싱(Load Balancing)이다.

하지만, 단순히 다수의 서버를 구축한다고 해서 모든 클라이언트의 요청에 일관성있게 응답하기란 쉽지 않다.

그래서, 로드 밸런서가 뭐야?

스크린샷 2020-09-16 오전 10 59 00

로드 밸런서는 서버에 가해지는 부하(=로드)를 분산(=밸런싱)해주는 장치 또는 기술을 통칭한다.

클라이언트와 서버풀(Server Pool, 분산 네트워크를 구성하는 서버들의 그룹)사이에 위치하며, 한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해서 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 한다.

로드밸런싱은 모든 경우에 항상 필요할까?

로드밸런싱은 여러대의 서버를 두고 서비스를 제공하는 분산 처리 시스템에서 필요한 기술이다.

서비스의 제공 초기 단계라면 적은 수의 클라이언트로 인해 서버 한대로 요청이 가능하다. 하지만 사업의 규모가 확잘 되고, 클라이언트의 수가 증가하게 되면 기존 서버 만으로는 정상적인 서비스가 불가능해진다. 이처럼 증가한 트래픽에 대처할 수 있는 방법은 두 가지가 있다.

Scale-up

스크린샷 2020-09-16 오전 10 56 55

서버 자체의 기능을 확장하는 것

Scale-out

스크린샷 2020-09-16 오전 10 57 19

서버의 갯수를 늘리는 것

Scale-out의 방식으로 서버를 증설하기로 결정했다면 여러 대의 서버로 트래픽을 균등하게 분산해주기 위해서 로드밸런싱이 반드시 필요하다.

로드밸런싱 기법

다양한 로드밸런싱 알고리즘이 존재한다.

라운드로빈 방식(Round Robin Method)

  • 서버에 들어온 요청을 순서대로 배정하는 방식
  • 여러 대의 서버가 동일한 스펙을 가지고 있음
  • 서버와 연결(세션)이 오래 지속되지 않는 경우에 활용하기 적합

가중 라운드로빈 방식(Weighted Round Robin Method)

  • 각가의 서버마다 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분
  • 주로 서버의 성능이 상이한 경우 사용되는 방식
  • 예를들어 A라는 서버가 5라는 가중치를 갖고 B라는 서버가 2라는 가중치를 갖는다면, 로드밸런서는 라운드로빈 방식으로 A 서버에 5개 B 서버에 2개의 요청을 전달

IP 해시 방식(IP Hash Method)

  • 클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리하는 방식
  • 사용자의 IP를 해싱해 로드를 분배하기 때문에 사용자가 항상 동일한 서버로 연결되는 것을 보장

    • 해싱(Hashing): 임의의 길이를 지닌 데이터를 고정된 길이의 데이터로 매핑하는 것, 또는 그러한 함수

최소 연결 방식(Least Connection Method)

  • 요청이 들어온 시점에 가장 적은 연결상태를 보이는 서버에 우선적으로 트래픽을 배분
  • 자주 세선이 길어지거나, 서버에 분배된 트래픽이 일정하지 않은 경우에 적합한 방식

최소 리스폰타임(Least Response Time Method)

  • 서버의 현재 연결 상태와 응답시간을 모두 고려하여 트래픽을 배분
  • 가장 적은 연결 상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 로드를 배분

    • 응답시간(Response Time): 서버에 요청을 보내고 최초 응답을 받을 때까지 소요되는 시간

L4 로드밸런서

  • 네트워크 계층(IP, IPX)이나 트랜스포트 계층(TCP, UDP)의 정보를 바탕으로 로드를 분산
  • IP주소나 포트번호, MAC주소, 전송 프로토콜에 따라 트래픽을 나누는 것이 가능

L7 로드밸런서

  • 애플리케이션 계층(HTTP, FTP, SMTP)에서 로드를 분산
  • HTTP 헤더, 쿠키 등과 같은 사용자의 요청을 기준으로 특정 서버에 트래픽을 분산하는 것이 가능
  • 패킷의 내용을 확인하고 그 내용에 따라 로드를 특정 서버에 분배하는 것이 가능
  • 클라이언트의 요청을 보다 세분화해 서버에 전달
    • ex) HTTP 헤더의 쿠키값에 따라 부하를 분산
    • ex) URL에 따라 부하를 분산
  • 특정한 패턴을 지닌 바이러스를 감지하여 네트워크를 보호할 수 있음
  • Dos/DDos와 같은 비 정상적인 트래픽을 필터링 가능
  • 네트워크 보안 분야에서도 활용

Reference

https://post.naver.com/viewer/postView.nhn?volumeNo=27046347&memberNo=2521903