Build to scale: queueing and latency on Twilio

🔗 원본 문서: Build to scale: queueing and latency on Twilio

---

🧨 시나리오: 블랙 프라이데이 대란 대비하기

11시에 1000개의 상품이 할인 오픈! 이 소식을 오전 10시에 100만 명에게 한꺼번에 문자로 알려야 한다면?

• 10시: 프로모션 문자 (링크 포함)
• 로그인/회원가입 후: OTP 문자 인증

이렇게 두 종류의 메시지가 필요하다면, 각 유스케이스마다 별도의 메시징 서비스(Messaging Service) 를 설정해야 해요.

---

📦 메시징 서비스(Messaging Service)란?

메시징 서비스는 여러 발신번호(발신자 풀) 와 설정값을 하나의 목적에 맞게 묶은 단위예요. 이를 사용하면:

• 발신자 관리 자동화
• Opt-Out 처리
• 다국가 대응 설정

등을 손쉽게 할 수 있어요.

⚠️ 단, 여러 번호를 동시에 사용하는 건 지역 규제에 따라 제한될 수 있어요. 특히 미국에서는 "스노우슈잉(snowshoeing)"으로 간주될 수 있으니 Twilio 정책 확인 필수!

---

💡 메시지 발송 흐름 (요청 → 발송)

1. 메시징 서비스로 API 요청 전송
2. 서비스가 큐에 저장하고 적절한 발신자 선택
3. 통신사(Carrier)로 전달
4. 최종 수신자에게 도착

---

✅ 유스케이스에 맞게 설계하기

구분	유스케이스	메시지 수	긴급도	권장 Validity Period
프로모션	링크 포함 마케팅 메시지	1,000,000	낮음	기본값 (10시간)
OTP	로그인 인증 코드	약 20,000	높음	2~3분 (예: 120초)

---

📈 큐 사이즈와 MPS 계산법

• 기본 큐 가능 시간: 10시간 (36,000초)
• MPS (Messages Per Second) = 메시지 수 ÷ 큐 시간
• Twilio 권장: 안전하게 2배 버퍼 적용

예시 계산

프로모션

• 1M ÷ 36,000초 = 27.7 → 버퍼 적용 시 60 MPS 필요

OTP

• 20,000 ÷ 180초 = 111 → 버퍼 적용 시 220 MPS 필요

---

🛠 메시징 서비스 생성 예시 (OTP용)

const service = await client.messaging.v1.services.create({
  friendlyName: "My OTP Messaging Service",
  validityPeriod: 120
});

---

🔢 발신자(Pool) 구성 예시

프로모션용

번호 타입	수량	개별 MPS	총 MPS
숏코드	1	100	100
영국 장번호	2	10	20
미국 장번호	10	1	10
캐나다 장번호	10	1	10
합계	23		140

OTP용

번호 타입	수량	개별 MPS	총 MPS
숏코드	1	100	100
톨프리	2	25	50
영국 장번호	4	10	40
미국 장번호	10	1	10
캐나다 장번호	2	10	20
합계	19		220

---

⏱ 캠페인 타이밍 전략

• 프로모션 메시지: 오전 중 미리 큐에 올려두기
• OTP: 사용자 행동 발생 시 실시간 발송

const message = await client.messages.create({
  body: "세일 1시간 전! 로그인하세요!",
  messagingServiceSid: "MGxxx",
  to: "+821012345678"
});

---

📊 성능 모니터링: Messaging Insights

• Latency Report: 메시지가 Twilio에서 처리되는 시간
• Delivery & Errors Report: 전송 성공률, 실패 원인 파악
• 각 발신자/서비스/계정 단위로 확인 가능

⚠️ 오류 예시: Queue Overflow, 30001 등 → 백오프 + 재시도 로직 필요

---

🚨 긴급 상황 대응

대규모 장애나 공지 필요 시, 기존 한도 초과될 수 있어요. 이럴 땐 Twilio 지원팀에 한도 상향 요청할 수 있어요.

---

📎 참고 리소스

• Messaging Insights 사용법
• Messaging Service 기능 전체 보기
• Messaging Service 생성 가이드