Load Balancer 란?
Load Balancer는 서버에 가해지는 부하(=로드)를 분산(=밸런싱)해주는 장치 또는 기술을 의미한다.
Load Balancer는 위치상으론 클라이언트와 서버풀 사이에 위치하며, 한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 하는 것이 목표이다.
Load Balancer가 필요한 경우
당연하게도 여러 대의 서버가 있어야 하며, 서비스를 제공하는 분산 처리 시스템을 필요로 할 때 사용된다.
다시말해서 서비스 제공 초기 단계라면(아직 서버의 트래픽이 많지 않다면) 한 대의 서버로 운영이 가능하기 때문에 load balancer가 필요하지 않다. 하지만 서비스의 규모가 커지고 클라이언트의 수가 늘어나게 된다면, 기존 서버만으로는 트래픽을 감당하기 힘들 것이다. 이 때 증가한 트래픽을 처리하기 위해서는 크게 2가지의 방식으로 처리가 가능하다.
증가한 트래픽을 처리하는 방식
scale-up
scale-up은 영어의 뜻 그대로 서버의 성능을 확장하는 것을 의미한다.
컴퓨터에 비유한다면 CPU가 i3인 컴퓨터를 i7으로 업그레이드 하는 것과 같다는 뜻이다.
scale-out
scale-out은 기존 서버와 동일하거나 서버를 두 대 이상 증설하여 운영하는 것을 의미한다.
이 scale-out 방식을 사용하게 되었을 때, 여러 대의 서버로 트래픽을 균등하게 분산해주기 위해 load balancer을 사용하게 되는 것이다.
로드밸런싱 알고리즘
라운드로빈 방식
서버에 들어온 요청을 순서대로 돌아가면서 배정하는 방식이다.
클라이언트의 요청을 순서대로 분배하기 때문에 여러 대의 서버가 동일한 스펙을 갖고 있고, 서버와의 연결이 오래 지속되지 않는 경우에 활용하기 적합하다.
가중 라운드로빈 방식
각각의 서버마다 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분하는 방식이다.
주로 서버의 트래픽 처리 능력이 상이한 경우 사용되는 부하 분산 방식이다.
예를 들어 A라는 서버가 5라는 가중치를 갖고, B라는 서버가 2라는 가중치를 갖는다면, Load Balancer는 라운드로빈 방식으로 A 서버에 5개 B 서버에 2개의 요청을 전달한다.
IP 해시 방식
클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리하는 방식이다.
사용자의 IP를 해싱해 요청을 배분하기 때문에 사용자가 항상 동일한 서버로 연결되는 것이 보장된다.
최소 연결 방식
요청이 들어온 시점에서 가장 적은 연결상태를 보이는 서버에 우선적으로 트래픽을 배분하는 방식이다.
자주 세션이 길어지거나, 서버에 분배된 트래픽들이 일정하지 않은 경우에 적합한 방식이다.
최소 리스폰 타임
서버의 현재 연결 상태와 응답시간을 모두 고려하여 트래픽을 배분하는 방식이다.
가장 적은 연결 상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 로드를 배분하는 방식이다.
Reference
https://m.post.naver.com/viewer/postView.naver?volumeNo=27046347&memberNo=2521903
