검색 증강 생성(RAG)

KURTY·2025년 9월 19일

LLM

목록 보기

7/8

검색 증강 생성(RAG)

RAG 패러다임의 기초

검색 증강 생성 (Retrieval-Augmented Generation, RAG)은 대규모 언어 모델(Large Language Model, LLM)의 본질적인 한계를 해결하기 위한 핵심 기술로 부상했다.

대규모 언어 모델의 핵심 한계 해결

LLM은 모델 가중치에 저장된 정적인 파라미터 지식(parametric knowledge)에 의존한다는 근본적인 약점을 가지고 있다. 이러한 특성은 환각(hallucination)으로 알려진 사실적 불일치, 빠르게 구식이 되는 지식, 그리고 생성된 답변의 투명성 및 검증 가능성 부족과 같은 심각한 문제로 이어진다.

RAG는 LLM을 실시간으로 업데이트 할 수 있는 비정형 외부 지식 소스와 결합함으로써 이러한 문제들을 직접적으로 해결한다. 이 프로세스는 모델의 답변을 검증 가능한 사실에 기반하게 하여 정확성, 신뢰성, 적응성을 향상시킨다. 추론 시점에 도메인 특화적이거나 독점적인 데이터를 제공함으로써, RAG는 빈번한 모델 재학습에 수반되는 막대한 계산 및 재정적 비용을 절감하는 효과적인 대안이 된다. 이 기술은 LLM이 정적 훈련 데이터의 한계를 넘어, 최신 정보와 특정 분야의 깊이 있는 지식을 활용할 수 있도록 하는 핵심적인 다리 역할을 한다.

표준 RAG 파이프라인의 해부

모든 고급 방법론의 기초가 되는 표준 다단계 RAG 워크플로우는 다음과 같이 구성된다. 이 파이프라인은 외부 지식을 LLM의 생성 과정에 통합하는 체계적인 절차를 정의한다.

인덱싱 (Indexing)

지식 베이스를 준비하는 오프라인 프로세스이다. 이 단계에서는 문서를 로드하고, 관리하기 쉬운 청크로 분할한 다음, 각 청크를 의미론적 의미를 담은 수치 표현인 벡터 임베딩(vector embedding)으로 변환한다. 최종적으로 이 임베딩들은 검색을 위해 특화된 벡터 데이터베이스에 저장된다.

검색 (Retrieval)

사용자가 쿼리를 제출하면 시작되는 실시간 프로세스이다. 사용자의 쿼리 또한 임베딩으로 변환되며, 검색 모듈은 이 쿼리 벡터와 벡터 데이터베이스에 저장된 문서 청크 벡터 간의 의미론적 유사성을 비교하여 가장 관련성 높은 청크들을 식별하고 추출한다.

증강 및 생성 (Augmentation & Generation)

검색된 청크들은 원본 쿼리와 결합되어 확장된 프롬프트를 구성한다. 이처럼 외부 지식으로 보강된 컨텍스트는 LLM에 입력되어, 제공된 정보에 기반한 정확하고 사실적인 답변을 생성하는 데 사용된다.

RAG의 분류

RAG 시스템은 복잡성과 기능에 따라 분류할 수 있으며, 이는 후속 섹션에서 다룰 고급 주제의 기반을 마련한다.

Naive RAG

이전에 설명한 기본적인 파이프라인을 의미한다. 효과적이긴 하지만, 낮은 검색 정밀도나 관련 없는 컨텍스트 검색과 같은 문제에 취약하여 생성 품질을 저하시킬 수 있다.

Advanced RAG

LLM에 제공되는 컨텍스트의 품질과 관련성을 향상시키기 위해 검색 전후 단계를 추가한 방식이다. 여기에는 재순위화(re-ranking)나 쿼리 변환과 같은 기법이 포함된다.

Modular RAG

파이프라인이 상호 교체 가능하고 전문화된 모듈(검색, 메모리, 라우팅 모듈)로 구성되는 더 유연한 패러다임이다. 이를 통해 더 복잡하고 특정 작업에 최적화된 아키텍처를 구축할 수 있다.

이러한 기술적 발전과 더불어, RAG가 실험적 기법에서 기업 수준의 운영 규율로 성숙함에 따라 RAGOps라는 개념이 등장했다. RAGOps는 LLMOps의 확장으로, 프로덕션 환경에서 RAG 시스템의 전체 수명 주기를 관리하기 위한 개념적 프레임워크를 제공하며, 특히 동적으로 변화하는 외부 데이터 소스의 지속적인 관리에 중점을 둔다.

RAG가 단순한 '검색 후 생성' 순서에서 'RAGOps'라는 공식적인 개념으로 진화한 것은 산업계의 중요한 인식 전환을 의미한다. 이는 프로덕션 환경에서 RAG의 주요 과제가 AI 모델 자체뿐만 아니라, 모델에 데이터를 공급하는 전체 데이터 수명 주기 관리 파이프라인에 있다는 이해를 반영한다.

초기 RAG 연구는 프롬프트를 보강하는 핵심 메커니즘에 집중하여 모델 중심적인 관점을 취했다. 그러나 기업 환경에서 RAG 시스템의 60%가 사용되는 등 실제 적용 사례가 늘어나면서, 외부 데이터가 정적이지 않고 지속적으로 변화한다는 현실적인 문제에 직면하게 되었다. 이로 인해 데이터 업데이트 관리, 시간 경과에 따른 검색 품질 모니터링, 다양한 데이터 형식 처리 등 운영상의 어려움이 발생했다.

'RAGOps'라는 용어의 등장은 이러한 운영상의 고충에 대한 직접적인 대응이다. 이는 RAG를 정적 알고리즘이 아닌, 소프트웨어 개발의 DevOps와 유사하게 강력한 데이터 엔지니어링 및 운영 관행을 요구하는 동적이고 살아있는 시스템으로 재정의한다.

인덱싱 단계: 데이터 준비 및 벡터화

청킹 전략: 비교 분석

청킹은 대용량 문서를 임베딩 및 검색에 적합한 더 작고 의미 있는 세그먼트로 나누는 과정이다. 어떤 청킹 전략을 선택하는가는 컨텍스트 보존과 검색 정밀도 최적화 사이의 중요한 트레이드오프를 수반한다.

고정 크기 청킹 (Fixed-Size Chunking)

가장 간단한 방법으로, 텍스트를 미리 정해진 문자나 토큰 수로 분할한다. 빠르고 구현이 쉽지만, 문장 중간이나 논리적 단위를 임의로 자를 수 있어 검색 품질을 저해할 수 있다. 이를 완화하기 위해 청크 간에 일부 내용을 겹치게 하는 오버랩(overlap) 기법이 흔히 사용되지만, 이는 데이터 중복성을 증가시킨다.

재귀적 청킹 (Recursive Chunking)

텍스트를 자연스러운 의미 경계에 따라 계층적으로 분할하려는 더 정교한 접근 방식이다. 예를 들어, 문단, 문장, 단어 순으로 분할 기준을 적용하여 문서의 구조를 최대한 보존한다. 이는 고정 크기 청킹에 비해 상당한 개선을 제공한다.

문서 기반 / 콘텐츠 인식 청킹 (Document-Based / Content-Aware Chunking)

마크다운 헤더, HTML 태그, 코드 함수와 같이 문서에 내제된 구조를 활용하여 컨텍스트적으로 더 일관된 청크를 생성하는 전략이다.

의미론적 청킹 (Semantic Chunking)

가장 진보된 접근 방식으로, 임베딩 모델을 사용하여 인접한 문장이나 텍스트 세그먼트 간의 의미적 유사성을 측정한다. 의미적으로 관련된 문장들을 하나의 청크로 그룹화하여 일관되고 컨텍스트를 잘 인식하는 세그먼트를 생성한다. 계산 비용이 더 높지만, 최고의 검색 성능을 보인다.

에이전틱 청킹 (Agentic Chunking)

실험적인 최신 기법으로, LLM 자체가 문서 구조와 의미에 대한 인간과 유사한 추론을 시뮬레이션하여 최적의 청킹 전략을 결정하도록 한다.

전략	핵심 원리	장점	단점	계산비용	사용 사례
고정크기 청킹	텍스트를 고정된 토큰/문자 수로 분리	구현이 간단하고 빠름. 대규모 데이터셋 처리에 효율적	의미론적 단위를 파괴할 수 있음. 컨텍스트 손실 위험	낮음	빠른 프로토타이핑, 구조가 덜 중요한 컨텐츠
재귀적 청킹	문단, 문장 등 자연스러운 경계를 따라 계층적으로 분할	문서 구조와 컨텍스트를 더 잘 보존함	고정된 분리 기호에 의존. 모든 의미적 뉘앙스를 포착하지 못할 수 있음	중간	대부분의 텍스트 기반 RAG 애플리케이션에 적합한 균형 잡힌 접근 방식
의미론적 청킹	임베딩 유사성을 기반으로 의미적으로 관련된 텍스트를 그룹화	일관되고 컨텍스트가 풍부한 청크 생성. 검색 정밀도 향상	계산 비용이 높고 복잡. 임베딩 모델에 대한 의존성	높음	법률, 의료, 기술 문서 등 의미적 정확성이 중요한 고성능 검색 시스템
에이전틱 청킹	LLM이 문서의 의미와 구조를 추론하여 최적의 분할지점을 결정	인간의 이해 방식과 유사한 청크 생성 가능성	실험적 단계. 높은 비용과 예측 불가능성	매우 높음	복잡하고 비정형적인 문서 구조를 다루는 연구 및 고급 애플리케이션

벡터 저장 및 인덱싱 인프라

데이터가 벡터화되면 효율적으로 저장되고 인덱싱되어야 한다.

벡터 데이터베이스 생태계

벡터 데이터베이스는 고차원 벡터 임베딩을 효율적으로 저장하고 쿼리하도록 설계된 특수 데이터베이스이다. 관리형 엔터프라이즈급 서비스부터 개발자 중심의 오픈소스 솔루션에 이르기까지 다양한 환경을 분석한다.

Pinecone

사용 편의성, 엔터프라이즈급 확장성, 낮은 지연 시간 성능에 중점을 둔 완전 관리형 클라우드 네이티브 SaaS 제품이다. 운영 오버헤드를 최소화하려는 팀에 이상적이다.

Weaviate

GraphQL API, 스키마 기반 접근 방식, 벡터화 및 하이브리드 검색을 위한 내장 모듈로 알려진 오픈소스 벡터 데이터베이스이다. 자체 호스팅 및 관리형 클라우드 옵션을 모두 제공하여 유연성이 높다.

Chroma

개발자 경험과 LLM 프레임워크와의 긴밀한 통합을 위해 설계된 최신 오픈소스 Python 우선 데이터베이스이다. 빠른 프로토타이핑과 소규모 애플리케이션에 탁월하다.

Milvus/Zilliz

수십억 개의 벡터를 처리하는 대규모 배포를 위해 설계된 가장 오래되고 확장성이 뛰어난 오픈소스 벡터 데이터베이스 중 하나로, 종종 GPU 가속을 활용한다.

Qdrant

성능, 고급 필터링 기능, 효율적인 메모리 사용으로 알려진 오픈소스 데이터베이스이다.

데이터베이스 확장 (pgvector)

PostgreSQL과 같은 전통적인 관계형 데이터베이스에 벡터 검색 기능을 추가하는 점점 더 대중적인 접근 방식이다. 이는 기술 스택을 단순화하지만, 전용 솔루션에 비해 매우 큰 규모에서는 성능 제한이 있을 수 있다.

데이터베이스	아키텍처	주요 기능	확장성 (실용적 벡터 수)	이상적인 사용 사례	가격 모델
Pinecone	관리형 SaaS	하이브리드 검색, 고급 필터링, 서버리스	수십억 개	운영 오버헤드가 적은 엔터프라이즈급 프로덕션 시스템	사용량 기반, 계층별 요금제
Weaviate	오픈소스 / 관리형	GraphQL, 내장 벡터화 모듈, 하이브리드 검색	수억 개	유연한 배포, 구조화된 데이터와 벡터 검색 결합	클라우드는 사용량 기반, 자체 호스팅은 인프라 비용
Chroma	오픈소스	개발자 친화적 API, Python 네이티브	수천만 개	빠른 프로토타이핑, 소규모 애플리케이션, 연구	오픈소스는 무료, 클라우드 제공 예정
Milvus	오픈소스 / 관리형	대규모 확장성, GPU 가속, 다양한 인덱스 유형	수십억 개 이상	극도의 확장성이 필요한 대규모 시스템	Zilliz Cloud는 관리형 서비스, 자체 호스팅은 인프라 비용
Qdrant	오픈소스 / 관리형	고성능, 고급 필터링(pre-filtering), 양자화	수억 개	성능 튜닝과 필터링이 중요한 애플리케이션	리소스 기반 가격 책정
pgvector	DB 확장	기존 PostgreSQL에 통합, 스택 단순화	수백만 개	기존 PostgreSQL 사용자가 스택 복잡성을 피하고 싶을 때	PostgreSQL 비용에 포함

핵심 인덱싱 알고리즘

수백만 또는 수십억 개의 벡터 전체를 느리게 검색하는 것을 피하기 위해, 벡터 데이터베이스는 효율적인 인덱스를 구축하기 위해 근사 최근접 이웃(Approximate Nearest Neighbor, ANN) 검색 알고리즘을 사용한다. 가장 두드러진 두 가지 알고리즘을 자세히 설명한다.

HNSW (Hierarchical Navigable Small World)

다층 그래프 구조를 구축하여 검색이 희소한 상위 계층에서 시작하여 점차 밀도가 높은 하위 계층으로 이동하면서 최근접 이웃을 찾는 방식이다. HNSW는 뛰어난 쿼리 속도와 높은 재현율(recall)로 유명하지만, 전체 그래프 인덱스가 종종 RAM에 저장되므로 메모리 집약적이다. 또한, 전체 인덱스를 재구축하지 않고도 삽입 및 삭제를 처리할 수 있어 동적 데이터셋에 적합하다.

IVF (Inverted File)

k-means와 같은 방법으로 벡터를 먼저 파티션(클러스터)으로 나눈 다음, 쿼리 시 검색을 가장 유망한 파티션으로만 제한하여 검색 공간을 대폭 줄이는 파티션 기반 알고리즘이다. IVF는 인덱스를 디스크에 저장할 수 있어 특히 매우 크고 정적인 데이터셋에 대해 HNSW보다 메모리 효율적이다. 그러나 성능은 초기 클러스터링의 품질에 크게 의존하며, 관련 벡터가 파티션 경계 근처에 있을 경우 정확도가 떨어질 수 있다.

벡터 데이터베이스의 선택은 단순한 기술적 선택을 넘어 전략적인 아키텍처 결정으로 진화하고 있다. PostgreSQL 및 MongoDB와 같은 전통적인 데이터베이스가 벡터 검색 기능을 통합하는 추세(pgvector, Atlas Search)는 벡터 검색이 틈새 기능이 아닌 표준 기능이 되어가는 시장 융합을 나타낸다. 이러한 변화는 전용 벡터 DB에 극단적인 규모에서의 성능, 고급 기능(필터링 및 양자화 등), 그리고 개발자 경험을 통해 차별화해야 한다는 압력을 가한다.

초기 RAG는 별도의 인프라 구성 요소로 특화된 벡터 데이터베이스(Pinecone, Milvus 등)를 필요로 하여 기술 스택의 복잡성을 증가시켰다. 기존 데이터베이스(PostgreSQL 등)를 보유한 개발자와 조직은 이를 부담스럽게 여겼고 , 이러한 단순성에 대한 요구는 pgvector와 같은 확장의 개발로 이어졌다. pgvector의 인기는 특히 중소 규모 애플리케이션에서 스택을 단순화하는 통합 솔루션에 대한 강한 시장 수요를 보여준다.

이러한 경쟁 구도는 시장을 양분화하고 있다. 전통적인 데이터베이스는 벡터 검색 기능을 추가하는 반면, 전용 벡터 DB는 자신들이 뛰어나다는 것을 증명해야 한다. 따라서 Pinecone은 서버리스, 제로옵스(zero-ops) 경험에 , Qdrant는 고급 필터링 및 성능 튜닝에, Weaviate는 하이브리드 검색 및 지식 그래프 기능에 각각 집중하며 차별화를 꾀하고 있다. 2025년의 시장은 더 간단하고 비용에 민감한 사용 사례를 위한 통합 솔루션과 고성능, 대규모, 기능이 풍부한 엔터프라이즈 애플리케이션을 위한 전용 벡터 DB로 나뉠 것이다.

고급 검색 및 재순위화 방법론

희소 및 밀집 벡터를 이용한 하이브리드 검색 (BM25+)

밀집 검색(벡터 검색)은 의미와 문맥을 포착하는 데 뛰어나지만, 특정 키워드나 약어에 의존하는 쿼리에서는 어려움을 겪을 수 있다. 반면, 고전적인 BM25와 같은 희소 검색 알고리즘은 키워드 매칭에 탁월하다.

하이브리드 검색은 이 두 가지의 강점을 결합하는 방식으로, 일반적으로 밀집 검색과 희소 검색을 모두 실행한 후 그 결과를 융합한다. 이는 의미론적 관련성과 어휘적 일치를 모두 포착하는 더 강력한 검색 시스템을 제공하여 전반적인 성능을 크게 향상시킨다. 결과 융합을 위해 상호 순위 융합(Reciprocal Rank Fusion, RRF)과 같은 기법이 사용될 수 있다.

검색 후 정제

초기 검색 단계("1단계")는 속도와 재현율에 최적화되어 종종 더 많은 후보 문서를 검색한다. 그 후 재순위화기("2단계")가 이 후보들을 정밀도 순으로 재정렬하는 데 사용된다.

재순위화기는 일반적으로 더 강력하지만 느린 모델로, 크로스 인코더(cross-encoder)가 대표적이다. 초기 검색에 사용되는 바이 인코더(bi-encoder)가 쿼리와 문서에 대해 별도의 임베딩을 생성하는 것과 달리, 크로스 인코더는 쿼리와 문서를 함께 처리하여 훨씬 더 세밀한 관련성을 포착할 수 있다. 이 2단계 프로세스는 LLM을 관련 없는 컨텍스트로 과부하시키지 않으면서 전체 재현율을 극대화한다. Cohere나 BAAI에서 제공하는 특정 재순위화 모델들이 이 목적으로 널리 사용된다.

다양성과 관련성 최적화, 최대 한계 관련성 (MMR) 알고리즘

검색에서 흔히 발생하는 문제 중 하나는 상위 결과들이 모두 동일한 정보의 약간의 변형인 중복성이다. 최대 한계 관련성(Maximal Marginal Relevance, MMR)은 쿼리에 대한 관련성과 선택된 문서들 간의 다양성을 모두 최적화하여 이 문제를 해결하도록 설계된 알고리즘이다.

MMR은 반복적으로 작동한다. 먼저 가장 관련성 높은 문서를 선택한 다음, 후속 선택에서는 이미 선택된 문서들과는 다르면서도 쿼리와 관련성이 높은 최상의 균형을 이루는 문서를 선택한다. $\lambda$ (람다) 파라미터는 관련성과 다양성 사이의 트레이드오프를 제어하며, 이는 LLM에 포괄적인 컨텍스트 집합을 제공하는 데 매우 중요하다.

검색 전 최적화: 고급 쿼리 변환 기법

검색 품질은 초기 쿼리의 품질에도 크게 의존한다. 쿼리 변환 기법은 사용자의 쿼리가 검색기에 도달하기 전에 이를 수정하거나 향상시킨다.

가상 문서 임베딩 (HyDE - Hypothetical Document Embeddings)

이 기법은 짧고 모호한 사용자 쿼리와 길고 상세한 문서 청크 사이의 불일치를 해결한다. 먼저 LLM을 사용하여 쿼리에 대한 이상적인 답변을 생성한다. 이 가짜 문서는 임베딩되어 검색에 사용된다. 그 이면의 직관은, 생성된 문서가 원래의 짧은 쿼리보다 실제 답변 문서와 의미적으로 더 유사하다는 것이다.

다중 쿼리 검색 (Multi-Query Retrieval)

이 접근 방식은 LLM을 사용하여 사용자의 쿼리를 여러 다른 관점에서 변형한 여러 버전을 생성한다. 각 변형은 별도의 검색을 수행하는 데 사용되며, 그 결과는 종합된다. 이는 여러 하위 부분이나 측면을 가진 복잡한 쿼리에 특히 효과적이다.

현대의 RAG 검색 파이프라인은 단일 검색 작업이 아니라, 다단계 "정보 깔때기"로 이해하는 것이 가장 적절하다. 쿼리 변환부터 초기 검색, 재순위화, 다양성 최적화에 이르기까지 각 단계는 크고 노이즈가 많은 잠재적 문서 집합을 점진적으로 정제하여, LLM의 컨텍스트 창에 완벽하게 최적화된 작고 매우 관련성 높으며 중복되지 않는 컨텍스트 집합으로 변환하도록 설계되었다.

Naive RAG는 단일 벡터 검색을 수행하지만, 특히 많은 수의 k를 검색할 때 관련 없거나 중복된 문서를 반환하는 문제가 자주 발생한다. 이 문제를 해결하기 위해 재순위화기가 도입되어, 빠른 고재현율의 1단계(검색기)와 느린 고정밀도의 2단계(재순위화기)로 구성된 프로세스를 만든다. 이것이 정보 깔때기를 만드는 첫 단계이다. 재순위화기를 사용하더라도 상위 결과가 모두 동일한 하위 주제에 관한 것일 수 있다.

이때 MMR이 등장하여 최종 컨텍스트 집합이 다양하도록 보장하는 또 다른 정제 단계를 추가한다. 이 전체 깔때기의 품질은 초기 입력에 따라 달라진다. 쿼리가 좋지 않으면 결과도 좋지 않을 것이다. 이는 깔때기에 더 나은 입력을 제공하기 위해 HyDE 및 다중 쿼리와 같은 검색 전 쿼리 변환을 동기 부여한다. 따라서 이러한 고급 기술들의 집합은 무작위가 아니다. 이들은 검색 프로세스의 논리적이고 종단 간 최적화를 나타내며, 단순한 조회를 정교한 다단계 정제 파이프라인으로 변환한다. 목표는 모든 단계에서 "쓰레기 입력, 쓰레기 출력(garbage in, garbage out)" 문제를 해결하는 것이다.

RAG 애플리케이션 구축을 위한 오케스트레이션 프레임워크

이러한 복잡한 다단계 RAG 파이프라인을 구축하려면 데이터 로더, 청커, 임베딩 모델, 벡터 저장소, LLM 등 다양한 구성 요소 간의 데이터 흐름과 호출을 관리하기 위한 강력한 프레임워크가 필요하다.

LangChain vs LlamaIndex

LangChain

RAG뿐만 아니라 광범위한 LLM 기반 애플리케이션을 구축하기 위해 설계된 다재다능하고 모듈화된 프레임워크이다. 핵심 철학은 체인과 에이전트에 기반하며, 개발자가 구성 요소를 빌딩 블록처럼 연결하여 복잡한 워크플로우를 만들 수 있도록 한다. RAG의 경우, 방대한 통합 라이브러리를 제공하지만, 개발자가 파이프라인을 더 명시적으로 조립해야 한다. LangChain 표현 언어 (LCEL)와 LangGraph의 도입은 복잡한 비선형 워크플로우를 생성하는 능력을 더욱 향상시켰다.

LlamaIndex

검색 및 검색 애플리케이션 구축에 특별히 최적화된 프레임워크이다. 그 철학은 데이터 자체에 중점을 두며, 데이터 수집, 인덱싱 및 쿼리를 위한 고수준 API와 최적화된 구성 요소를 제공한다. 강력한 RAG 파이프라인을 즉시 사용할 수 있도록 제공하여 강력한 검색 시스템을 더 쉽고 빠르게 실행할 수 있도록 한다. 문서 관리에 뛰어나며 고급 인덱싱 및 검색 전략을 일급 시민(First-class citizen)으로 제공한다.

측면	LangChain	LlamaIndex	종합 / 최적 사용 사례
핵심 철학	애플리케이션 중심: LLM을 중심으로 다양한 도구와 로직을 연결하는 범용 오케스트레이터.	데이터 중심: 외부 데이터를 LLM에 연결하는 데 최적화된 검색 및 인덱싱 프레임워크.	LangChain은 '무엇을 할 것인가'에, LlamaIndex는 '어떻게 데이터를 찾을 것인가'에 집중.
주요 사용 사례	복잡한 에이전트, 멀티스텝 워크플로우, 대화형 챗봇, 다양한 도구 통합.	고성능 검색 및 Q&A 시스템, 엔터프라이즈 지식 베이스, 문서 요약.	유연성과 범용성이 필요하면 LangChain, 순수한 검색 성능이 중요하면 LlamaIndex.
맞춤화 및 유연성	매우 높음. 모듈식 아키텍처로 모든 단계를 세밀하게 제어 가능.	높음. RAG 파이프라인 내에서 최적화되어 있으며, 고수준 API를 통해 쉽게 사용 가능.	복잡한 맞춤형 로직에는 LangChain, 표준 RAG 파이프라인의 빠른 구축 및 최적화에는 LlamaIndex.
사용 편의성 (RAG)	유연한 만큼 초기 설정이 더 복잡할 수 있음.	RAG에 특화되어 있어 더 적은 코드로 고성능 파이프라인 구축 가능.	RAG 초심자나 빠른 개발에는 LlamaIndex가 더 직관적일 수 있음.
고급 RAG 기능	광범위한 통합을 통해 구현 가능.	재순위화, 쿼리 변환 등 고급 RAG 기술이 프레임워크에 내장되어 있음.	LlamaIndex는 고급 RAG 기술을 더 쉽게 적용할 수 있도록 설계됨.
생태계 및 통합	방대한 문서 로더, API, 데이터베이스 통합 라이브러리 보유.	데이터 커넥터 허브(LlamaHub)를 통해 다양한 데이터 소스 지원.	LangChain의 통합 범위가 더 넓지만, LlamaIndex도 RAG에 필요한 핵심 데이터 소스를 잘 지원함.

사용 사례에 맞는 프레임워크 선택

LlamaIndex를 선택해야 할 때: 주요 목표가 고성능 검색 및 검색 애플리케이션을 구축하는 것일 때이다. 간소화된 RAG 중심 설계는 기업 지식 베이스나 문서 Q&A 시스템과 같은 사용 사례의 개발을 가속화한다.

LangChain을 선택해야 할 때: 애플리케이션이 단순한 RAG 이상을 요구할 때이다. 그 유연성은 복잡한 다단계 에이전트, 대화 메모리가 있는 챗봇, 또는 다양한 외부 도구 및 API와 통합해야 하는 애플리케이션을 구축하는 데 이상적이다.

하이브리드 접근 방식: 프레임워크는 상호 배타적이지 않다. LlamaIndex를 최적화된 데이터 인덱싱 및 검색 엔진으로 사용하고, 이를 복잡한 로직, 도구 사용 및 대화 관리를 처리하는 더 큰 LangChain 에이전트나 체인 내에 래핑하는 것은 일반적이고 강력한 패턴이다.

LangChain과 LlamaIndex 간의 철학적 차이는 AI 애플리케이션 구축의 근본적인 이중성, 즉 "애플리케이션 중심" 관점 대 "데이터 중심" 관점을 반영한다. LangChain은 RAG를 LLM 애플리케이션이 사용할 수 있는 여러 도구 중 하나로 취급하는 반면, LlamaIndex는 LLM을 핵심 데이터 및 검색 문제에 적용할 강력한 추론 엔진으로 취급한다. 이 구분은 아키텍트가 기본 스택을 결정할 때 매우 중요하다.

LangChain의 핵심 추상화는 LLM 호출, 도구, 프롬프트를 연결하는 "체인"(현재는 "그래프")으로, 애플리케이션의 로직 흐름에 중점을 둔다. 데이터 검색은 이 흐름의 한 노드이다. 반면, LlamaIndex의 핵심 추상화는 쿼리 가능한 지식 소스를 나타내는 "인덱스"로, 데이터의 구조와 이를 효율적으로 쿼리하는 방법에 중점을 둔다. LLM은 이 데이터에 대한 인터페이스이다.

이는 서로 다른 개발자 경험으로 이어진다. LangChain 개발자는 "내 에이전트가 어떤 단계를 밟아야 하는가?"를 생각하는 반면, LlamaIndex 개발자는 "내 지식을 표현하고 쿼리하는 가장 좋은 방법은 무엇인가?"를 생각한다. 이 두 프레임워크가 점점 더 상호 운용 가능해지는 추세는, 성숙한 애플리케이션이 두 가지 모두를 필요로 함을 보여준다

강력하고 데이터 중심적인 검색 엔진(LlamaIndex의 강점)과 유연하고 애플리케이션 중심적인 로직 및 오케스트레이션 계층(LangChain의 강점)이다. 따라서 "LangChain 대 LlamaIndex" 논쟁은 개발자가 두 도구의 장점을 모두 활용하여 더 정교한 시스템을 구축하는 "LangChain과 LlamaIndex" 논의로 성숙하고 있다.

고급 RAG 패러다임

교정 RAG (CRAG) 프레임워크

검색 평가기 (Retrieval Evaluator)

검색된 각 문서가 쿼리와 얼마나 관련이 있는지를 평가하여 신뢰도 점수를 할당하는 경량 모델이다.

행동 트리거 (Action Trigger)

신뢰도 점수를 기반으로 시스템은 세 가지 행동 중 하나를 실행한다.

정확 (Correct): 신뢰도가 높으면 문서를 사용하되, 먼저 지식 정제 과정을 거친다. 이 과정에서 문서는 더 작은 지식 스트립으로 분해되고, 관련성에 따라 필터링된 후 재구성된다.
부정확 (Incorrect): 신뢰도가 낮으면 검색된 모든 문서를 폐기하고, 시스템은 더 나은 대체 지식을 찾기 위해 웹 검색을 실행한다.
모호 (Ambiguous): 신뢰도가 혼합되어 있으면, 시스템은 더 나은 문서에 대해 지식 정제를 수행하고 웹 검색으로 보충하는 두 가지 전략을 모두 사용한다.

이 접근 방식은 RAG를 더욱 적응적으로 만들어, 품질이 낮은 컨텍스트를 맹목적으로 LLM에 전달하는 대신 검색 실패 시 스스로 교정할 수 있게 한다.

에이전틱 RAG의 출현

에이전틱 RAG(Agentic RAG)는 RAG를 AI 에이전트와 통합하여 근본적인 패러다임 전환을 나타낸다. 선형적인 파이프라인 대신, LLM 기반 에이전트는 검색 시스템을 사용 가능한 여러 도구 중 하나로 취급한다.

자율적 의사결정: 에이전트는 정보를 검색할지 여부와 시기, 무엇을 검색할지, 그리고 어떤 소스(벡터 DB, SQL 데이터베이스, 웹 검색 API 등)에서 검색할지를 결정할 수 있다.
다단계 추론: 에이전트는 복잡한 쿼리를 일련의 하위 쿼리와 행동으로 분해할 수 있다. 예를 들어, 쿼리 계획 에이전트는 복잡한 답변을 종합하기 위해 일련의 검색과 다른 도구 호출을 조율할 수 있다.
동적 워크플로우: 이 프로세스는 고정된 DAG(방향성 비순환 그래프)가 아니다. 에이전트는 루프를 가질 수 있어, 검색된 정보를 성찰하고 그 품질을 판단하여 다른 검색을 수행하거나 다른 조치를 취하기로 결정할 수 있으며, 이를 통해 자기 교정이 가능하다.

이 접근 방식은 RAG를 데이터 파이프라인에서 상호작용적이고 추론 중심적인 프로세스로 변환하여, 훨씬 더 복잡하고 모호한 쿼리를 처리할 수 있게 한다. 그러나 여러 번의 LLM 호출로 인해 지연 시간과 비용이 증가하는 단점이 있다.

복잡한 멀티홉 추론을 위한 GraphRAG

비정형 텍스트에 대한 표준 RAG는 여러 문서를 연결해야 하는 질문(멀티홉 추론)에 어려움을 겪는다. GraphRAG는 지식 그래프(Knowledge Graph, KG)에 인코딩된 명시적인 관계를 활용하여 이 문제를 해결한다.

인덱싱: 단순히 텍스트를 청킹하는 대신, 시스템은 먼저 원본 문서에서 개체와 그 관계를 추출하여 지식 그래프를 구축한다.
검색: 검색은 그래프 상에서 수행되어, 시스템이 관계를 탐색하고 서로 다른 정보 조각들을 연결할 수 있게 한다. 이는 "프로젝트 Y에서 X와 함께 일했던 사람들이 참여한 다른 프로젝트는 무엇인가?"와 같은 질문에 답하는 데 있어, 분리된 텍스트 청크에 대한 의미론적 유사성 검색보다 훨씬 강력하다.
반복적 검색: KG-IRAG와 같은 고급 프레임워크는 그래프에 대해 반복적이고 논리 기반의 검색을 수행하여, 시간적 또는 논리적 종속성이 있는 복잡한 추론 작업을 해결하기 위해 점진적으로 데이터를 수집할 수 있다.

GraphRAG는 더 정확하고 포괄적이며 문맥적으로 풍부한 검색을 제공하여, 복잡한 시스템과 상호 연결된 정보에 대해 LLM이 추론하는 능력을 크게 향상시킨다.

다중모달 RAG의 아키텍처와 과제

세상의 정보 대부분은 순수 텍스트가 아니다. 다중모달 RAG(Multimodal RAG, MRAG)는 RAG 패러다임을 이미지, 오디오, 비디오와 같은 다양한 데이터 유형을 포함하도록 확장하여, 세계에 대한 더 포괄적인 이해를 가능하게 한다.

주된 과제는 교차 모달 정렬 및 추론(cross-modal alignment and reasoning)이다. 즉, 서로 다른 양식을 통일된 방식으로 표현하고 검색하는 방법이다.

통합 임베딩 공간: CLIP과 같은 다중모달 임베딩 모델을 사용하여 모든 양식(텍스트와 이미지 등)을 단일 공유 벡터 공간에 투영한다. 이를 통해 텍스트 쿼리로 관련 이미지를 검색하거나 그 반대의 작업이 가능해진다.
개별 양식 저장소: 각 양식에 대해 별도의 벡터 저장소를 유지하고, 다중모달 재순위화기나 융합 메커니즘을 사용하여 병렬 검색 결과를 결합한다.
양식 기반화 (Modality Grounding): 모든 양식을 단일 주요 양식(보통 텍스트)으로 변환한다. 예를 들어, 시각-언어 모델(VLM)을 사용하여 이미지에 대한 상세한 캡션을 생성한 다음, 이 캡션에 대해 표준 텍스트 기반 RAG를 수행한다.
융합 및 생성: 검색 후, 여러 양식은 융합되어 다중모달 대규모 언어 모델(MLLM)에 생성용으로 제공되어야 한다. 여기에는 교차 모달 어텐션 메커니즘과 같은 기술이 포함될 수 있다. MRAG는 의료(보고서와 X-레이 분석), 전자상거래(이미지 기반 제품 검색), 교육 등에서 매우 중요하다.

2025년의 고급 RAG 패러다임(CRAG, Agentic, Graph, Multimodal)은 상호 배타적이지 않으며, 실제로는 융합되고 있다. 궁극적인 최첨단 시스템은 다중모달 지식 그래프를 통해 추론하고 검색 및 생성 프로세스를 스스로 수정할 수 있는 하이브리드, 에이전틱 아키텍처가 될 것이다.

이러한 융합의 논리적 흐름은 다음과 같다. 먼저, 에이전틱 RAG 가 자율 에이전트와 도구라는 핵심 프레임워크를 제공한다. 이 에이전트는 단일 벡터 검색 도구만 갖는 것이 아니라, 복잡한 구조적 쿼리를 위한 GraphRAG 도구 와 이미지나 다른 데이터 유형을 포함하는 쿼리를 위한 다중모달 RAG 도구를 갖게 될 것이다. 라우팅 에이전트는 주어진 쿼리에 가장 적합한 도구를 결정합니다.

다음으로, 에이전트는 자신의 도구 사용이 성공적이었는지 어떻게 알 수 있을까? 바로 CRAG와 유사한 성찰 메커니즘 을 통합함으로써 가능하다. GraphRAG 도구를 사용한 후, 에이전트는 검색된 하위 그래프를 평가할 수 있다. 만약 관련이 없다면, 에이전트는 이를 폐기하고 웹 검색(또 다른 도구)과 같은 다른 접근 방식을 시도하기로 결정할 수 있다.

이는 강력하고 시너지 효과가 있는 시스템을 만든다. 예를 들어, 에이전트가 "A 프로젝트에서 일했던 팀이 설계한 장비의 사진을 보여주고, 그들의 주요 기술적 과제를 요약해 줘"와 같은 복잡한 다중모달 쿼리를 받는다고 가정해 보자. 에이전트의 계획은 다음과 같다.

GraphRAG를 사용하여 "A 프로젝트"의 팀원을 식별한다.
다시 GraphRAG를 사용하여 해당 구성원들이 설계한 다른 프로젝트를 찾는다.
다중모달 RAG를 사용하여 해당 프로젝트의 장비 이미지를 검색한다.
표준 RAG를 사용하여 기술적 과제에 대한 텍스트 요약을 검색한다.
CRAG와 유사한 단계를 사용하여 검색된 이미지와 텍스트가 일관성이 있는지 확인한다.
모든 정보를 종합하여 최종 답변을 생성한다.

따라서, 이러한 개별적인 "고급 RAG" 유형들은 실제로는 훨씬 더 강력한 복합 AI 아키텍처를 위한 구성 요소이다.

KURTY

진짜 공부하자

이전 포스트

대규모 언어 모델(LLM)의 양자화

다음 포스트

검색 증강 생성(RAG)

LLM

검색 증강 생성(RAG)

RAG 패러다임의 기초

대규모 언어 모델의 핵심 한계 해결

표준 RAG 파이프라인의 해부

인덱싱 (Indexing)

검색 (Retrieval)

증강 및 생성 (Augmentation & Generation)

RAG의 분류

Naive RAG

Advanced RAG

Modular RAG

인덱싱 단계: 데이터 준비 및 벡터화

청킹 전략: 비교 분석

고정 크기 청킹 (Fixed-Size Chunking)

재귀적 청킹 (Recursive Chunking)

문서 기반 / 콘텐츠 인식 청킹 (Document-Based / Content-Aware Chunking)

의미론적 청킹 (Semantic Chunking)

에이전틱 청킹 (Agentic Chunking)

최신 임베딩 모델

벡터 저장 및 인덱싱 인프라

벡터 데이터베이스 생태계

Pinecone

Weaviate

Chroma

Milvus/Zilliz

Qdrant

데이터베이스 확장 (pgvector)

핵심 인덱싱 알고리즘

HNSW (Hierarchical Navigable Small World)

IVF (Inverted File)

고급 검색 및 재순위화 방법론

희소 및 밀집 벡터를 이용한 하이브리드 검색 (BM25+)

검색 후 정제

다양성과 관련성 최적화, 최대 한계 관련성 (MMR) 알고리즘

검색 전 최적화: 고급 쿼리 변환 기법

가상 문서 임베딩 (HyDE - Hypothetical Document Embeddings)

다중 쿼리 검색 (Multi-Query Retrieval)

RAG 애플리케이션 구축을 위한 오케스트레이션 프레임워크

LangChain vs LlamaIndex

LangChain

LlamaIndex

사용 사례에 맞는 프레임워크 선택

고급 RAG 패러다임

교정 RAG (CRAG) 프레임워크

검색 평가기 (Retrieval Evaluator)

행동 트리거 (Action Trigger)

에이전틱 RAG의 출현

복잡한 멀티홉 추론을 위한 GraphRAG

다중모달 RAG의 아키텍처와 과제

대규모 언어 모델(LLM)의 양자화

LLM 데이터 파이프라인 구축

0개의 댓글