대용량 트래픽 관련 주요 용어

대용량 트래픽 처리를 공부하면서 배워나갈 개념을 해당 포스트에 정리해 보고자 한다.

✅ 처리량 (Throughput)

부하 테스트 중, 서비스가 1초당 처리할 수 있는 트래픽 양. 단위는 TPS (Transaction Per Seconds, 초당 처리한 트랜잭션 수)를 활용. 초당 100개의 API요청 처리가 가능하다면 Throughput(쓰루풋)은 10TPS라고 말할 수 있다. (= RPS (Request Per Secounds))

✅ 지연시간 (Latency)

부하 테스트 중, 요청에 대한 응답 시간. API 요청을 했을 때, 평균 응답 시간이 3초일 경우는 Latency(레이턴시)가 3초라고 말할 수 있다.