[읽을거리]RAG vs. Fine Tuning

출처

[유튜브]RAG vs. Fine Tuning

RAG, Fine-tuning?

• RAG(Retrieval-Augmented Generation): 최신 정보를 동적으로 추가하여 모델의 정확성과 최신성을 유지
• Fine-tuning(미세 조정): 특정 도메인에 특화된 데이터를 활용해 모델 자체를 전문화하여 효율성 향상

RAG의 특징

• 외부 데이터(문서, PDF 등)를 검색하고, 모델 프롬프트에 추가하여 응답 생성
• 모델 재훈련 없이도 최신 정보와 기업의 독점적 정보 활용 가능
• 정보 투명성과 최신성이 중요한 분야에서 효과적

Fine-tuning의 특징

• 도메인 맞춤 데이터로 모델을 직접 재훈련해 전문화
• 작은 프롬프트로 효율적인 추론 가능, 속도와 비용 절감
• 그러나 훈련 이후 새로운 정보 추가 어려움

RAG와 Fine-tuning 선택 시 고려할 점

• 데이터 변화가 빠를 때는 RAG, 특정 산업 용어나 문체 특화 필요 시 Fine-tuning이 적합
• 정보의 투명성과 출처를 명확히 해야 할 때 RAG 선호
• 기업의 내부 과거 데이터를 적극 활용하는 경우 Fine-tuning이 유리

두 기술을 결합해서 최적 가능

• RAG와 Fine-tuning을 결합하면 최신성과 전문성을 모두 갖춘 최적의 모델 구축 가능
• 금융 산업 eg. Fine-tuning으로 전문성을 갖추고 RAG로 최신 정보를 통합하여 강력한 성능 제공