RAG(Retrieval-Augmented Generation)

필요성

구성

체크리스트

예시

RAG(Retrieval-Augmented Generation)
대규모 데이터베이스에서 관련 정보를 검색하여 응답 생성 전에 활용함으로써, 응답의 정확도와 관련성을 향상시키는 기법

대규모 언어 모델의 한계를 극복하고, 신뢰할 수 있는 지식 베이스를 통해 출력을 최적화하는 접근방식으로, 추가 모델 교육 없이도 다양한 상황에서의 관련성과 유용성을 유지하는 비용 효율적인 방식을 제공함

RAG는 신뢰할 수 있는 정보 소스를 검색하여 사용자 질문에 정확하고 관련성 높은 답변을 제공함으로써, 정적인 지식 베이스의 한계를 극복하고, 시간에 민감한 질문에도 적절한 응답을 가능하게 함

이를 위해 외부 데이터 소스 구축, 관련 정보 검색, LLM 프롬프트 확장 등의 구성요소가 필요하며, 검색 결과의 질, 정보의 최신성, 윤리적 고려 등을 중요시함

CoT(Chain of Thought)

필요성

중요성 및 이점

작동방식

도전과제 및 발전

자동화된 CoT

CoT (Chain of Thought) 프롬프팅
대규모 언어 모델이 복잡한 다단계 추론 문제를 해결하기 위해 중간 추론 단계를 생성하도록 유도하는 기술

이를 통해 모델의 이해와 해결 능력이 향상되며, 특히 대규모 모델에서 성능 향상이 두드러짐

CoT은 one-shot 및 zero-shot 방식으로 작동하며, 자동화된 CoT(Auto-CoT) 연구는 모델이 수작업 없이 추론 체인을 생성할 수 있도록 하는 방법을 탐색함

MRKL(Modular Reasoning, Knowledge, and Language)

시스템 구성

구성요소 및 작동방식

예시

MRKL(Modular Reasoning, Knowledge, and Language) 시스템

복잡한 문제 해결을 위해 대규모 언어 모델(LLM)과 외부 도구를 통합하는 아키텍처

이 시스템은 다양한 모듈(예: 계산기, 날씨 API, 데이터베이스)을 포함하며, 자연어 쿼리를 적절한 모듈로 라우팅하는 라우터로 구성됨

이러한 방식으로 MRKL 시스템은 다양한 문제를 해결하거나 복잡한 작업을 수행할 수 있는 능력을 갖추고 있음

(예) 사용자의 텍스트 쿼리에서 SQL 쿼리를 생성하여 금융 데이터베이스 질문에 응답하거나, "100*100은 무엇인가?"와 같은 질문에 대해 계산 결과를 제공할 수 있음

ReACT(Reasoning and Acting)

개념

주요 기여점

작동방식

예시

ReAct(Reasoning and Acting)
대규모 언어 모델(LLMs)의 추론과 행동 능력을 결합하는 새로운 접근방식

이를 통해 언어 모델이 외부 환경과 보다 효과적으로 상호작용할 수 있게 함

이 방식은 추론과 행동 생성을 하나의 프레임워크 내에서 결합함으로써, 모델이 일반적인 작업 문제를 더 효율적으로 해결할 수 있게 하고, 다양한 도메인에서 우수한 성능을 입증하며, 모델의 해석 가능성과 제어 가능성을 강화함

문제 인식, 초기 추론, 추론 트레이스 생성, 행동 결정 및 실행, 관찰 및 피드백 수집, 추론과 행동 조정의 반복적 과정을 통해 문제 해결을 위한 효과적인 상호작용을 수행함