RAG 이란?
Retrieval(검색)-Augmented(증강) Generation(생성)
AI가 모르는 내용을 외부에서 '검색'하여 답변하는 기술
개념
- Retrieval: 질문에 대한 내용을 외부 데이터베이스(문서, 웹사이트, 사내 DB 등)에서 찾아냄.
- Augmented: 1번에서 찾아낸 정보 참고하여 질문에 대한 명령을 내림
- Generation: AI가 근거 있는 답변을 생성함.
작동 원리 (주요 단계)
- (사전 준비) Indexing: 방대한 문서를 작게 쪼개어 AI가 이해하기 쉬운 Vector 숫자 형태로 변환 및 저장함
- Chunking 분할: 방대한 문서를 AI가 읽기 좋은 크기로 잘게 쪼갬
- Embedding 임베딩: 쪼개진 텍스트를 컴퓨터가 이해할 수 있는 숫자 형태(벡터)로 변환
- Indexing 인덱싱: 숫자를 '벡터 데이터베이스'라는 저장소에 저장
- (실시간) Retrieval: 질문 들어올 때 저장된 데이터 중 유사한 내용을 검색함
- 사용자의 질문을 똑같이 숫자로 바꿔서, 저장소에서 가장 비슷한 숫자를 가진 조각을 찾아온다.
- Generation: 찾아낸 내용관 질문을 섞어 프롬프트 구성하고 답변함.
일반 AI와의 차이점
| 구분 | 일반 AI Fine-tuning 모델 | RAG |
|---|---|---|
| 지식 출처 | 암기 (내부적 모델) | 외부 데이터베이스 |
| 최신 정보 여부 | 최근 학습 데이터까지만 가지고 있음 | DB 업데이트 시 즉시 반영(모델 학습X) |
| 환각 현상 발생 여부 | 거짓 정보를 마치 사실인 양 말하고, 출처 확인 불가한 답변 만듦 | 답변의 근거 문서 명시 가능 |
| 경제성 | 거대한 모델을 다시 학습(fine-tuning)시켜야 함. 모델 학습 및 유지에 고비용 발생 | 검색 시스템을 구축하여 효율적임 |
| 보안 | 회사 내부 문서, 개인 데이터는 학습되지 않음. 학습 데이터에 포함되어있을 시 삭제 어려움 | 권한 별로 특정 문서만 검색 가능함. 기업에서 내부 기밀, 매뉴얼 등 자사 데이터만 활용 가능 |
사용성, 활용 사례
- 사내 기술/지식 기반: 우리 회사 배포 정책을 물으면 운영 가이드 문서 검색하여 답변함.
- 자산/장비 관리
- 최신 트렌드 분석: 오늘자 뉴스를 검색 범위에 포함시킬 수 있음.
