🌱로드밸런서(Load Balancer)!

🤔 로드밸런서(Load Balancer)?

로드 밸런서는 서버에 가해지는 부하(=load)를 분산(=balancing)해주는 장치 또는 기술을 통칭합니다. 클라이언트와 서버풀(Server Pool, 분산 네트워크를 구성하는 서버들의 그룹) 사이에 위치하며, 한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 합니다.

유저의 접속과 사용을 통해 발생하는 트래픽들(http request)들을 모두 1차적으로 로드밸런서가 처리합니다. 로드 밸런서가 먼저 요청들을 처리한 뒤 서비스를 운영하고 있는 서버들로 분배하게 됩니다.

로드 밸런서를 사용하면 요청을 고르게 분배, 많은 요청을 동시에 처리할 수 있게 해주는 장점 외에도 결함 감내 시스템(Fault Tolerant System) 효과까지 경험할 수 있습니다.

✅ 결함 감내 시스템(Fault Tolerant System)이란?

운영되고 있는 서버 3개중 1개가 어떠한 결함이나 에러로 운영 중단이 된다면 로드 밸런서가 자동으로 정상적으로 작동하는 나머지 2개의 서버에만 요청을 분배할 수 있습니다.

실제 요청을 보내는 유저는 서버들 중 하나가 운영 중단이 된 사실을 인지하지 못하고 서비스를 정상적으로 사용할 수 있습니다. 유저는 문제가 있었다는 사실을 인지하지 못하고 개발자들은 로드밸런서의 이러한 장점을 통해 down time이 없는 서비스를 운영 및 배포가 가능합니다.

⚙️ 다양한 로드밸런싱 알고리즘

• 라운드로빈 방식(Round Robin Method)
  서버에 들어온 요청을 순서대로 돌아가며 배정하는 방식.
  클라이언트의 요청을 순서대로 분배하기 때문에 여러 대의 서버가 동일 스펙을 갖고 있고, 서버와의 연결(세션)이 오래 지속되지 않는 경우에 활용하기 적합합니다.

• 가중 라운드로빈 방식(Weighted Round Robin Method)
  각각의 서버마다 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분합니다. 주로 서버의 트래픽 처리 능력이 상이한 경우 사용되는 부하 분산 방식입니다. 예를 들어 A라는 서버가 5라는 가중치를 갖고 B라는 서버가 2라는 가중치를 갖는다면, 로드밸런서는 라운드로빈 방식으로 A서버에 5개 B 서버에 2개의 요청을 전달합니다.

• IP 해시 방식(IP Hash Method)
  클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리하는 방식입니다. 사용자의 IP를 해싱(Hashing, 임의의 길이를 지닌 데이터를 고정된 길이의 데이터로 매핑하는 것, 또는 그러한 함수)해 로드를 분배하기 때문에 사용자가 항상 동일한 서버로 연결되는 것을 보장합니다.

• 최소 연결 방식(least Connection Method)
  요청이 들어온 시점에 가장 적은 연결상태를 보이는 서버에 우선적으로 트래픽을 배분합니다. 자주 세선이 길어지거나, 서버에 분배된 트래픽들이 일정하지 않은 경우에 적합한 방식입니다.

• 최소 리스폰타임 방식(Least Response Time Method)
  서버의 현재 연결 상태와 응답시간(Response Time, 서버에 요청을 보내고 최초 응답을 받을 때까지 소요되는 시간)을 모두 고려하여 트래픽을 배분합니다. 가장 적은 연결 상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 로드를 배분하는 방식입니다.

🌳 참고한 블로그