[Computer Science][Network] 🚀 로드 밸런싱(Load Balancing) 이해하기

둘 이상의 CPU 또는 저장장치와 같은 컴퓨터 자원들에게 작업을 분배하는 과정

오늘날 웹 사이트에 접속하는 사용자가 급격히 증가함에 따라, 모든 트래픽을 단일 서버가 감당하기엔 어려움이 있습니다. 이 문제를 해결하기 위해 하드웨어의 성능을 높이거나(Scale-up), 여러 대의 서버가 작업을 나누어 처리하도록 하는(Scale-out) 방식이 사용됩니다. 이 중 Scale-out 방식이 비용 효율적이며, 여러 서버로 무중단 서비스를 제공하기에 적합합니다. 이때 여러 서버로 트래픽을 고르게 분산시키는 작업이 바로 로드 밸런싱입니다.

로드 밸런싱은 분산형 웹 서비스에서 여러 서버에 부하(Load)를 나누는 역할을 하며, 클라이언트와 서버 사이에 위치한 로드 밸런서가 이를 담당합니다. 로드 밸런서를 통해 서버에 트래픽이 균등하게 분산되면, 웹 서버의 부하를 효과적으로 관리할 수 있습니다.

🎯 로드 밸런서가 서버를 선택하는 방식

로드 밸런서가 서버에 트래픽을 분배하는 방식에는 여러 가지가 있습니다. 각각의 방식은 상황에 따라 장단점이 있으므로, 서비스 특성에 맞게 선택하는 것이 중요합니다.

🔄 라운드 로빈(Round Robin)

라운드 로빈은 CPU 스케줄링의 일종으로, 들어오는 요청을 순서대로 서버에 배분하는 방식입니다.

• 장점: 구현이 간단하며, 별도의 서버 상태 정보를 필요로 하지 않습니다.
• 단점: 서버의 성능이나 현재 부하 상태를 고려하지 않아, 과부하나 부하 불균형이 발생할 수 있습니다. 또한 서버 간 연결 상태나 세션을 고려하지 않아, 지속적인 연결이 필요한 애플리케이션에서는 비효율적일 수 있습니다.

⚖️ Least Connections

연결 개수가 가장 적은 서버에 새로운 요청을 할당하는 방식입니다.

• 장점: 각 서버의 부하 상태를 반영하여 트래픽을 분산시키므로, 과부하 방지에 효과적입니다. 특히 장기간 세션이 유지되는 경우에 유용합니다.
• 단점: 서버의 연결 수만으로 부하를 완전히 반영하기 어려울 수 있습니다. 예를 들어, 적은 연결 수의 서버가 무거운 작업을 처리 중일 수 있습니다.

🔍 Source(IP 해싱)

사용자의 IP 주소를 해싱하여 특정 서버에 요청을 할당하는 방식입니다.

• 장점: 특정 서버와 사용자의 관계를 유지할 수 있어, 동일 클라이언트가 항상 같은 서버에 연결되도록 보장합니다.
• 단점: 특정 서버에 요청이 집중될 수 있으며, 사용자의 IP 주소가 변경될 경우 세션 유지를 어렵게 할 수 있습니다.

🛡️ 로드 밸런서 장애 대비

로드 밸런서 자체가 장애를 일으킬 수 있기 때문에, 로드 밸런서를 이중화하여 대비하는 것이 중요합니다.

🔄 Active-Passive 이중화 구성

🟢 Active 상태

Active 상태의 로드 밸런서는 모든 트래픽을 처리하며, 클라이언트의 요청을 서버로 전달하는 역할을 합니다. 이 로드 밸런서는 주기적으로 자신의 상태를 모니터링하고, 문제가 발생하면 이를 감지하여 장애를 알리는 기능을 갖추고 있습니다.

🟡 Passive 상태

Passive 상태는 대기 모드로, Active 로드 밸런서가 정상적으로 동작하는 동안에는 트래픽을 처리하지 않습니다. 하지만 Active 로드 밸런서의 상태를 감시하며, 장애 발생 시 자동으로 Active 상태로 전환(Failover)되어 트래픽을 처리하기 시작합니다. 장애가 해결된 후, 원래의 Active 로드 밸런서가 복구되면 Failback이 이루어집니다.

이렇게 로드 밸런서를 이중화함으로써, 서비스의 안정성을 높이고 장애 발생 시 신속하게 대응할 수 있습니다.

---

이 글에서는 로드 밸런싱의 개념과 로드 밸런서의 작동 방식, 그리고 로드 밸런서 이중화에 대해 살펴보았습니다. 로드 밸런싱은 웹 서비스의 안정성과 효율성을 극대화하기 위해 필수적인 요소입니다. 각 로드 밸런싱 방법의 특성을 이해하고, 적절하게 활용하는 것이 중요합니다.