📚 프롬프트 vs 컨텍스트: RAG에서 꼭 알아야 할 핵심 개념 정리
🧐 프롬프트와 컨텍스트, 무엇이 다를까?
RAG(Retrieval-Augmented Generation)를 이해할 때 프롬프트(Prompt)와 컨텍스트(Context)는 매우 자주 등장하는 개념입니다. 하지만 두 용어가 헷갈리는 경우가 많죠.
간단히 정리하면 다음과 같습니다.
- 프롬프트(Prompt): LLM에게 전달되는 전체 입력값
- 컨텍스트(Context): 그 프롬프트 안에 포함되는 참고 자료(배경 정보)
이 관계를 가장 쉽게 설명할 수 있는 방법이 바로 “오픈북 시험” 비유입니다.
- 🧑🎓 학생 = LLM
- 📝 시험지 전체 = 프롬프트
- 📜 시험지 속 참고 지문 = 컨텍스트
- ❓ 시험 문제 = 사용자 질문(쿼리)
즉, LLM은 “지문(컨텍스트)”과 “문제(사용자 질문)”, 그리고 “지시사항”이 모두 적힌 시험지(프롬프트)를 받아 답을 작성하게 됩니다.
🔍 RAG 파이프라인에서의 프롬프트와 컨텍스트
RAG 시스템은 벡터 DB에서 ‘문서 조각(텍스트 청크)’을 검색한 뒤, 이를 컨텍스트로 프롬프트에 삽입하여 LLM이 참고할 수 있도록 합니다.
✅ 1. RAG 없이 답변하는 경우 (컨텍스트 없음)
-
사용자 질문:
“RAG가 뭐예요?” -
LLM 입력:
“RAG가 뭐예요?”
LLM은 자신이 기존에 학습한 정보만 기반으로 답해야 합니다.
✅ 2. RAG를 사용하는 경우 (컨텍스트 있음)
(1) 검색 단계
벡터 DB에서 관련 텍스트 조각을 가져옵니다.
예:
- 문서A: “RAG는 Retrieval-Augmented Generation의 약자입니다.”
- 문서B: “RAG는 LLM이 외부 지식 베이스를 참조하도록 하는 기술입니다.”
이 검색된 문서들이 컨텍스트(Context) 입니다.
(2) 프롬프트 생성
시스템이 템플릿을 이용해 지시문 + 컨텍스트 + 질문을 조합해 최종 프롬프트를 만듭니다.
(3) LLM에 전달되는 최종 입력
지시: "아래 컨텍스트를 참고해 질문에 답하세요."
--- 컨텍스트 ---
문서A: RAG는 Retrieval-Augmented Generation의 약자입니다.
문서B: RAG는 LLM이 외부 지식 베이스를 참조하도록 하는 기술입니다.
--- 컨텍스트 끝 ---
질문: "RAG가 뭐예요?"LLM은 이제 “시험지 전체(프롬프트)”를 읽고, 참고 지문(컨텍스트)을 기반으로 답변을 생성할 수 있게 됩니다.
📌 프롬프트와 컨텍스트 비교 정리
| 구분 | 프롬프트 (Prompt) | 컨텍스트 (Context) |
|---|---|---|
| 정의 | LLM이 받는 전체 입력 | 배경 정보·참고 자료 |
| 범위 | 넓음 (컨텍스트 포함) | 좁음 (프롬프트의 일부) |
| 역할 | 모델에게 “무엇을 할지” 전달 | 모델에게 “무엇을 참고할지” 전달 |
| RAG에서의 의미 | 지시 + 컨텍스트 + 질문의 총합 | 벡터 DB에서 검색된 청크 |
✨ 마무리
프롬프트는 전체 시험지, 컨텍스트는 참고 지문이라고 생각하면 두 개념이 명확하게 정리됩니다.
RAG가 어떻게 LLM의 답변 품질을 높이는지도 자연스럽게 이해되죠.
AI developer