📝 LLM 시스템 구축을 위한 5가지 워크플로우 디자인 패턴 정리

LLM 기반 애플리케이션이 단순한 프롬프팅을 넘어 복잡한 시스템으로 진화함에 따라, 신뢰성과 성능을 확보하기 위한 워크플로우 설계가 중요해짐. Anthropic에서 정의한 5가지 핵심 디자인 패턴을 분석하고 정리함.

---

🏗️ 1. Prompt Chaining

작업을 고정된 일련의 하위 작업 단계로 분해하여 순차적으로 실행하는 패턴임.

• 특징: 하나의 LLM 출력이 다음 LLM의 입력이 되는 구조. 중간에 코드(Gate)를 넣어 흐름을 제어할 수 있음.
• 장점: 각 단계를 정밀하게 설계할 수 있어 가드레일 적용이 용이하고 성능 최적화에 유리함.
• 예시: 섹터 선정 -> 페인 포인트 식별 -> 솔루션 제안 순으로 이어지는 비즈니스 로직.

💡 Note: Anthropic은 이를 워크플로우로 정의하지만, 첫 번째 단계의 결과에 따라 이후 작업의 맥락이 결정된다는 점에서 에이전트적 특성(자율성)과 경계가 모호한 지점이 있음.

---

🚦 2. Routing

입력을 분류하고, 해당 작업에 가장 적합한 전문 모델이나 프롬프트로 전달하는 패턴임.

• 특징: 'Router' 역할을 하는 LLM이 입력값의 의도를 파악하여 분기 처리를 수행함.
• 장점: 각 분야에 특화된 전문가(Specialist) 모델을 활용할 수 있어 관심사 분리(Separation of Concerns)가 가능함.
• 적용: 고객 문의를 기술 지원, 결제 문의, 일반 상담 등으로 분류하여 처리할 때 매우 유용함.

---

⚡ 3. Parallelization

하나의 작업을 여러 개로 쪼개어 동시에 처리한 후 결과를 합치는 패턴임.

• 특징: 코드(Python 등) 수준에서 제어하며, 여러 LLM 호출을 동시(Concurrent)에 실행함.
• 장점: 처리 속도(Latency)를 단축하고 결과의 일관성을 높일 수 있음.
• 유형:
  Sectioning: 큰 작업을 독립적인 하위 작업으로 나누어 병렬 처리.
  Voting/Averaging: 동일한 작업을 여러 번 수행하여 결과의 평균을 내거나 최적의 답변을 선택.

---

🎭 4. Orchestrator-Worker

복잡한 작업을 LLM이 동적으로 분해하고 하위 작업을 할당하는 패턴임.

• 특징: 3번(병렬화)과 유사해 보이지만, 제어 주체가 코드가 아닌 LLM(Orchestrator)이라는 점이 핵심임.
• 동작: 오케스트레이터가 작업을 분석하여 필요한 워커(Worker)의 수와 종류를 결정하고, 최종 결과를 합성(Synthesizer)함.

🚀 Insight: 워커에게 할당하는 방식에 재량권이 부여되므로 워크플로우와 에이전트의 중간 단계라고 볼 수 있음.

---

🔄 5. Evaluator-Optimizer

생성된 결과를 검증하고 피드백을 통해 지속적으로 개선하는 루프 패턴임.

• 특징: 생성자(Generator)와 검증자(Evaluator)가 협력함. 검증자가 거절(Reject)하면 피드백과 함께 생성자에게 되돌려 보냄.
• 장점: 정확성, 예측 가능성, 견고성(Robustness)을 극대화할 수 있음.
• 활용: 코드 생성, 기술 문서 작성 등 품질 보증이 필수적인 도메인에서 가장 강력한 효과를 발휘함.

🚀 Insight: 프로덕션 환경에서는 100% 보장되는 LLM은 없음. 따라서 이 패턴과 같은 검증 에이전트(Validation Agent)를 배치하는 것이 품질 상한선을 높이는 가장 현실적인 방법임.

---

📌 요약 및 결론

• Made by NotebookLLM
  

패턴	핵심 메커니즘	주요 용도
Chaining	고정된 순서	단계별 가드레일이 필요한 복합 작업
Routing	분류 및 분기	전문가 모델 활용 및 비용 최적화
Parallelization	동시 실행	대량 작업 처리 및 속도 개선
Orchestrator	동적 할당	구조화되지 않은 복잡한 문제 해결
Evaluator	반복 개선	높은 정확도와 품질 보증

단순한 챗봇을 넘어 시스템을 설계할 때, 위 패턴들을 적재적소에 조합(Composition)하는 능력이 차세대 AI 개발자의 핵심 역량이 될 것임.

---

참고: Anthropic's Design Patterns for LLM Workflows

---