Multi-Agent 구조 & Langfuse 와 Langgraph

---

왜 Multi-Agent 구조인가

• LLM이 하나일 때는 모든 작업을 혼자 처리 → 한계

• 여러 개의 역할 분담된 Agent들이 협업하면 훨씬 유연하고 정확하게 작동함

---

5가지 Multi-Agent 구조

1. Sequential 구조

에이전트들이 순서대로 처리 (A → B → C)

• 예: 문서 분석 → 요약 → 평가

---

2. Decision Router 구조

컨트롤러가 질문을 보고 적절한 에이전트에게 분배

• 예: CodeAgent, MathAgent 등

---

3. Voting 구조

여러 에이전트가 답변 → 가장 나은 답 선택

• 예: GPT-4 / Claude / Gemini 중 투표로 결정

---

4. Critic 구조

하나가 답변 → 다른 에이전트가 평가/수정 제안

• 예: StudentAgent + CriticAgent

---

5. Recursive 구조

에이전트가 자기 답을 검토하고 다시 수정

• 예: 답변 생성 → “내 답 괜찮나?” → 자가 피드백 → 수정

---

LLMOps란?

LLM 기반 시스템을 운영·관찰·개선하는 전체 프레임워크

목적

• LLM을 안정적으로 운영
• 프롬프트/응답 개선
• 사용자 피드백 기반 A/B 테스트
• 성능 향상과 신뢰성 확보

---

Langfuse란?

LLM 시스템의 흐름을 기록하고 분석하는 도구

주요 기능

• 프롬프트 & 응답 기록
• LLM/Agent 호출 시각화
• 실행 로그 추적 (Trace)
• A/B 테스트 및 성능 비교
• 전체 워크플로우 디버깅

→ 어떤 에이전트 구조가 더 잘 작동하는지 파악할 수 있음

---

LangGraph란?

복잡한 Multi-Agent 흐름을 그래프 형태로 설계하는 도구 (LangChain 기반)

특징

• 각 Agent를 노드(Node)로 구성
• 조건 분기, 반복, 상태 전환 등 유연한 제어 가능
• Langfuse와 연동하여 흐름을 추적 가능
• 예: 질문 → Router → Agent1/Agent2 → Reviewer → 최종 답변

---

전체 흐름 예시

[사용자 질문]
↓
LangGraph로 구성된 Agent 흐름 시작
↓
각 에이전트 실행 및 상태 업데이트
↓
Langfuse가 흐름 기록 및 분석
↓
LLMOps 기반 피드백 루프 → 성능 개선

---

한 줄 요약

Multi-Agent는 LLM을 협업 구조로 나누는 방식,
LLMOps는 그것을 운영·개선하는 프레임워크,
Langfuse는 분석 도구,
LangGraph는 설계 도구이다.