로드 밸런싱
서버가 처리해야 할 업무 혹은 요청(Load)을 여러대의 서버로 나누어(Balancing) 처리하는 것
Load Balancer를 클라이언트와 서버사이에 두고, 부하가 일어나지 않도록함
규모에 따라 웹서버를 추가로 증설하면서 로드밸런서로 관리해주면 부하가 해결됨
웹사이트 접속 인원이 늘어남에 따라 트래픽 감당이 어려워 나온 그 대응방안으로
- Scale-up : 하드웨어의 성능을 올림
- Scale-out : 여러대의 서버가 나눠서 일하도록 함
가 있는데, 하드웨어 향상에 비용이 많이 드는 것과 무중단서비스 제공 환경 구성이 용이함에 따라 Scale-out이 효과적.
이 때, 서버에게 균등하게 트래픽을 분산시켜주는 것이 로드 밸런싱
장점
- 클라이언트 요청을 쉽게 처리가능, 사용자의 대기시간 단축
- 빠른 무중단 서비스 경험
- 장애로 인한 서비스 중단시간이 적고 처리량이 높음
로드밸런서 기법
라운드 로빈
CPU 스케줄링의 라운드 로빈 방식 활용. 서버에 들어온 요청을 순서대로 돌아가며 배정하는 방식
여러대의 서버가 동일한 스펙을 가지고 서버와의 연결이 오래 지속되지 않는 경우에 적합
가중 라운드 로빈 방식(각 서버 당 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분)도 존재함
Least Connections
연결개수가 가장 적은 서버 선택(트래픽으로 인해 세션이 길어지는 경우 권장)
자주 세션이 길어지거나 서버에 분배된 트래픽들이 일정하지 않은 경우 적합
최소 리스폰 타임
서버의 현재 연결 상태와 응답시간을 모두 고려하여 트래픽 배분
가장 적은 연결상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 배분
IP 해시 방식
클라이언트 IP를 특정 서버로 매핑하여 요청을 처리하는 방식
사용자의 IP를 해싱(임의의 길이를 지닌 데이터를 고정된 길이의 데이터로 매핑하는 것) 및 분배하기 때문에 특정 사용자가 항상 같은 서버로 연결되는 것 보장
HTTP 트래픽 분산을 위해서 라운드로빈, DB를 위해서는 Least Connections 알고리즘이 다수 사용
L4/L7 로드 밸런싱
L4는 전송계층/L7은 애플리케이션 계층에서 로드를 분산함
로드 밸런서 장애 대비
서버를 분배하는 로드밸런서에도 문제가 생길 수 있기 때문에 로드밸런서를 이중화하여 대비
- Active상태
- Passive 상태
두 로드 밸런서들은 서로를 Health Check함. 메인 로드 밸런서가 동작하지 않을 시 가상 IP는 여분의 로드밸런서로 변경됨
로드밸런싱<->클러스터링
로드밸런싱은 여러대의 서버에 트래픽을 균등하게 분산시키는 기술이고, 클러스터링은 여러대의 서버를 하나의 서버로 만들어 사용하는 것
참고
https://tecoble.techcourse.co.kr/post/2021-11-07-load-balancing/
https://gyoogle.dev/blog/computer-science/network/Load%20Balancing.html
https://prohannah.tistory.com/62
https://lgphone.tistory.com/155
