‼️ 개인 학습 내용으로, 오류가 있을 수 있습니다.

논문 URL - https://arxiv.org/abs/2312.10997

Generation

검색 결과를 바로 LLM에 입력하는 것은 바람직하지 않다.
검색 결과를 조절하는 2가지 방식 소개

1. Context Curation

• Reranking
  • 핵심 기능: 검색된 문서 청크를 관련성 순으로 재정렬하여 LLM 처리 입력 품질 향상
  • 주요 방법론
  1. 규칙 기반(Rule-based)
     • 평가 지표: 다양성(Diversity), 관련성(Relevance), MRR(Mean Reciprocal Rank)
  2. 모델 기반(Model-based)
     • 전문 리랭커: Cohere rerank, bge-raranker-large
     • 범용 LLM: GPT 시리즈 활용(고비용·고성능)
     • 인코더-디코더: BERT·SpanBERT 기반 크로스-인코더(cross-encoder)

2. LLM Fine-tuning

• 도메인 특화 지식 주입:

  • 온프레미스 LLM 장점: 의료·법률 등 특정 분야의 데이터 부족을 미세 조정으로 해결
  • Huggingface 데이터 활용: 공개 데이터셋을 초기 단계 학습에 활용해 커스텀 데이터 수집 부담 감소

• 입출력 형식 조정:

  • 구조화 데이터 대응: SANTA 프레임워크는 대비 학습(Contrastive Learning)으로 질의-문서 임베딩의 구조적·의미적 특징 동시 포착
  • 스타일 맞춤화: 법률 문서 생성 시 특정 서식(예: 판결문 체계) 준수하도록 출력 제어2.

• 선호도 정렬 기법:

  • 강화 학습(RL) 적용: 인간 평가자 피드백 기반 보상 모델 구축 → 유해 답변 감소 및 품질 응답 유도
  • 리트리버-생성기 협업: RA-DIT는 KL 발산(KL Divergence)으로 검색기와 생성기의 점수 함수 일치화

• 지식 증류(Knowledge Distillation):

  • 고성능 모델 모방: GPT-4 등 프로프라이어터리 모델의 출력을 교사로 활용해 소형 모델 성능 향상

Augmentation Process In RAG

01. Iterative Retrieval

• 목적: 다중 검색 단계를 통해 추가 참조 문맥 확보 → 답변 생성의 강건성 향상
• 과정: 초기 질의와 생성된 텍스트를 기반으로 지식 베이스 반복 검색 → LLM에 포괄적 컨텍스트 제공

02. Recursive Retrieval

• 목적: 검색 쿼리와 결과의 반복적 정제를 통해 정보 깊이와 관련성 향상
• 작동 원리:
  • 피드백 루프: 이전 검색 결과 → 새 쿼리 생성 → 점진적 최적화
  • 여러 단계 분석: 계층적 문서 구조(예: PDF 섹션 요약) 기반 2차 검색 수행

03. Adaptive Retrieval

• 목적: LLM이 자율적으로 검색 시점/내용 결정 → 정보 효율성·관련성 극대화
• 메커니즘:
  • 능동적 판단: 생성 과정에서 신뢰도 모니터링을 통한 동적 검색 트리거
  • 자기 반영: "비판 토큰"으로 출력 품질 평가 후 보정

Task And Evaluation

• 핵심 평가 목표

1. 검색 품질(Retrieval Quality)

   • 평가 지표:

     • Hit Rate: 관련 문서 검색 성공률
     • MRR(Mean Reciprocal Rank): 상위 문서 순위 정확도
     • NDCG(Normalized Discounted Cumulative Gain): 순위별 관련성 가중치 반영

   • 적용 분야: 검색엔진·추천 시스템 기준 활용

2. 생성 품질(Generation Quality):

   • 비라벨 콘텐츠:
     • 충실성(Faithfulness): 컨텍스트 기반 답변 일치도
     • 관련성(Relevance): 질의-답변 의미적 연관성
     • 비유해성(Non-harmfulness): 유해 콘텐츠 생성 방지
   • 라벨 콘텐츠:
     - 정확성(Accuracy): 사전 정의 정답 대비 일치율

• 평가 대상 분류

검색 품질	생성 품질
컨텍스트 관련성 노이즈 내성	답변 충실성 답변 관련성 부정적 거부 정보 통합 반사실적 강건성

RAG 평가 벤치마크 및 도구(Evaluation Benchmarks and Tools)

• 주요 벤치마크

  1. RGB:

     • 평가 항목: 노이즈 내성/부정적 거부/정보 통합/반사실적 강건성
     • 데이터 규모: 영어·중국어 이중 언어 지원
     • 결과: LLM의 부정적 거부 능력 40% 미만 성능 노출

  2. RECALL·CRUD:

     • 초점: RAG 필수 능력 종합 평가
     • 적용 분야: 금융·의료 도메인 특화 테스트베드

  3. MIRAGE:

     • 의료 특화: 7,663개 의료 QA 데이터셋
     • 성과: GPT-3.5 성능을 GPT-4 수준으로 18% 향상

  4. UDA:

     • 실제 문서 분석: 2,965개 문서 + 29,590개 QA
     • 발견: "Lost-in-the-Middle" 효과 확인(중간 컨텍스트 무시 현상)

• 자동화 도구
  • RAGAS: Faithfulness/Answer Relevance 등 8개 품질 지표
  • ARES: 강화학습 기반 평가 프레임워크
  • TruLens: 컨텍스트-답변 연관성 측정(RAG Triad)
  • RAGBench: 10만 개 산업별 데이터 + TRACe 메트릭(Explainable 평가)

Discussion And Future Prospects

A. RAG vs. Long Context

• LLM의 컨텍스트 확장은 RAG를 대체하지 않고, 고도화된 정보 필터링·통합 기능으로의 진화를 촉진한다.

B. RAG Robustness(강건성)

• 핵심 문제

  • 노이즈 영향: 검색 단계에서 무관/모순 문서 포함 시 답변 품질 급격히 저하
  • 역설적 발견(Cuconasu et al.): 무관 문서 30% 포함 시 정확도 오히려 향상 → 기존 가정과 상충

• RAG 견고성 확보를 위해 적응형 훈련과 의미적 필터링의 융합 전략이 필수적이며, 노이즈 활용 패러다임 재정립 필요

C. Hybrid 접근

• RAG + 파인튜닝 결합: 도메인 특화 모델과 실시간 검색의 시너지 극대화
• 하이브리드 접근은 도메인 정확도와 실시간 적응력을 동시에 확보하는 핵심 전략

D. RAG scaling 법칙

• 역스케일링 법칙(Inverse Scaling Law)
  • 가설: 소규모 RAG 모델이 대규모 모델 대비 우월한 성능 발휘 가능성
  • 메커니즘: 과적합 방지·효율적 외부 지식 활용에 기반
• RAG 스케일링 법칙은 LLM과 차별화된 패턴을 보이며, 특히 계산 자원 최적화와 소규모 모델 효율성 연구가 핵심 과제

E. Production-Ready RAG

• 핵심 과제

  • 검색 효율성: 대규모 지식베이스에서 문서 리콜(recall) 향상
  • 보안 강화: 문서 출처/메타데이터 유출 방지(예: ChatGPT 기밀 코드 유출 사례)
  • 실시간 처리: 동적 데이터 업데이트 대응(의료 지침 실시간 반영 등)

• 기술 스택 현황

  • 주요 프레임워크
    • LangChain/LLamaIndex: RAG API 표준화 및 확장성 강화
    • Flowise AI: 드래그앤드롭 방식의 로우코드 개발 지원
  • 특화 솔루션
    • HayStack: 파이프라인 모듈화로 유연성 확보
    • Weaviate Verba: 개인 비서 애플리케이션 최적화
    • Amazon Kendra: 엔터프라이즈 검색 통합(커넥터 기반)

F. 멀티 모달 RAG

• 핵심 확장 분야
  • 텍스트 중심 한계 극복: 이미지·오디오·비디오·코드 등 다중 모달리티 통합
  • 도메인 특화 모델: 의료·제조 등 산업별 맞춤형 지식 검증 체계 구축