병목 현상에 대처하는 3가지 방법
해결
- 병목 현상이 발생하지 않도록 처리하는 방법을 변경
- 웹 응용 프로그램을 다시 작성
회피
- 구조나 구성을 변경해 처리하지 않아도 되게 변경
- 처리 결과를 캐시해 재사용
완화
- 구성 및 설정 변경, 수직 확장, 수평 확장을 사용해 병목 완화
수요 조정 방법
- Queueing
처리 요청을 순서대로 대기시키는 방법 - Rate Limit
단위 시간당 처리 요청을 일정 수로 제한 - 처리 요청 분산
처리 요청을 여러 대 서버에 분산시키는 방법
오토스케일링 고려 요소
- 오토스케일링 시스템 자원의 수요에 맞춰 조정을 완료하기 전까지는 지연시간이 발생하며 지연 시간이 길어질 경우 오류가 발생할 수 있다.
- 시스템 자원을 늘리기 위한 인프라 용량이 부족한 경우 조정이 불가능하다
Backend Developer, Loan Domain Developer