동적 스케일링 정책 (Dynamic Scaling Policies)

대상 추적 스케일링 (Target Tracking Scaling)

• 가장 단순하고 설정하기 쉽다.
• 예시로 오토 스케일링 그룹의 평균 CPU 사용률을 추적하여 이 수치가 40%대에 머무를 수 있도록 할 수 있다. 이 처럼 기본 기준선을 세우고 상시 가용이 가능하다.

단순 / 단계 스케일링 (Simple/Step Scaling)

• CloudWatch 알람을 설정하고 전체 ASG에 대한 CPU 사용률이 특정 설정한 수치를 초과한 경우 용량을 유닛 단위로 추가하도록 설정할 수 있다.
• 그리고 CloudWatch 알람을 통해 특정 수치 이하로 떨어지면 용량을 유닛 단위로 제거 할 수 있다.
• 단 CloudWatch 알람을 설정할 때에는 한 번에 추가하거나 제거할 유닛 수를 단계별로 설정할 필요가 있다.

예약된 작업 (Scheduled Actions)

• 나와 있는 사용 패턴을 바탕으로 스케일링을 예상하는 방식
• 예시로 금요일 오후 5시에 큰 이벤트가 예정되어 있다면 여러 사람들이 애플리케이션을 사용하는 데에 대비해
  ASG의 최소 용량을 자동으로 5시부터 10시까지 늘리도록 할 수 있다.
• 스케일링이 필요함을 미리 알 때에 예정된 작업을 설정하면 된다.

예측 스케일링 (Predictive Scaling)

• AWS내 오토 스케일링 서비스를 활용하여 지속적으로 예측을 생성할 수 있다. 로드를 보고 다음 스케일링을 예측한다.
• 시간에 걸쳐 과거 로드를 분석하고 예측이 생성되면 해당 예측을 기반으로 사전에 스케일링 작업이 예약된다.

스케일링을 위한 지표

• CPU 사용률 : 평균 CPU 사용률
• 대상별 요청의 수 : EC2 인스턴스는 한번에 대상별로 1,000개의 요청까지만 최적으로 작동하므로 이러한 대상을 스케일링에 활용할 수 있다.
• 평균 네트워크 입출력량 : 애플리케이션이 네트워크에 연결된 경우 EC2 인스턴스에 대해 해당 네트워크에서 병목 현상이 발생할 것으로 판단되면 평균 네트워크 입출력량에 기반하여 특정 임계값에 도달할 때 스케일링을 수행하도록 설정할 수 있다.
• 사용자 정의 지표 : CloudWatch를 활용하여 지표를 저장하고 이를 기반으로 스케일링 정책을 바꿀 수 있다.

스케일링 휴지 (Scaling Cooldown)

• 스케일링 작업이 끝날 때마다 인스턴스의 추가, 삭제를 막론하고 기본적으로 5분 혹은 300초의 휴지 기간을 갖는다.
• 휴지 기간에는 ASG가 추가 인스턴스를 실행 또는 종료할 수 없다. 이는 휴지 기간동안 새로운 인스턴스가 안정화될 수 있도록 하며 어떤 새로운 지표의 양상을 살펴보기 위함이다.
• 그러므로 어떠한 스케일링 작업이 발생할 때에 기본으로 설정된 휴지 기간의 유무를 확인해야 한다.
• 즉시 사용이 가능한 AMI를 이용하여 EC2 인스턴스 구성 시간을 단축하고 이를 통해 요청을 좀 더 신속히 처리하는 것이 좋다.