CoT (Chain-of-Thought) & RAG (Retrieval-Augmented Generation) 개요
🧩 CoT (Chain-of-Thought)
CoT는 AI가 문제를 해결할 때 사고 과정을 단계적으로 전개하도록 하는 기법임.
- 기존 모델은 질문에 대해 바로 답을 내놓지만, CoT는 중간 사고 과정을 거쳐 답을 도출함.
- 논리적 추론, 수학 문제 풀이, 다단계 의사 결정 등에 유용함.
- 예를 들어, "2명이 3개의 사과를 나눠 가지면 몇 개씩 가지나요?"라는 질문에 대해 기존 모델은 "1.5개"라고 답하지만, CoT 적용 모델은 "3개의 사과를 2명이 나눠 가지려면 3 ÷ 2를 계산해야 함. 따라서 1.5개씩 가짐." 같은 방식으로 사고 과정을 설명함.
🔍 RAG (Retrieval-Augmented Generation)
RAG는 AI가 답변을 생성할 때 외부 데이터를 검색하여 활용하는 기법임.
- 일반 AI 모델은 훈련된 데이터만 활용하지만, RAG는 실시간 검색을 통해 최신 정보 반영 가능.
- 법률, 의학, 기술 문서 등 방대한 정보가 필요한 분야에서 강력한 성능 발휘함.
- 동작 방식:
- 사용자 질문을 분석한 후 관련 문서를 검색함.
- 검색된 문서를 기반으로 답변을 생성함.
- 예를 들어, "최신 GPT 모델은 어떤 기능이 있나요?"라는 질문에 대해 일반 모델은 훈련된 정보만 활용하지만, RAG 적용 모델은 최신 기술 문서를 검색하여 최신 기능까지 반영함.
CoT vs RAG 비교
| 개념 | 설명 | 활용 예시 |
|---|---|---|
| CoT | AI의 사고 과정을 단계적으로 전개 | 논리적 질문, 수학 문제 풀이, 복잡한 의사 결정 |
| RAG | 외부 데이터를 검색하여 반영 | 최신 정보 검색, 법률·의학·기술 문서 기반 답변 |
- CoT는 AI의 논리력 강화, RAG는 AI의 정보 접근력 향상을 목표로 함.
- 둘을 결합하면 논리적이면서도 최신 정보를 반영하는 강력한 AI 시스템 구축 가능.
화이팅