LangChain
개요
- LLM을 활용한 애플리케이션 개발 프레임워크
구성요소
| 프롬프트 | LLM에 전달할 입력 관리 및 최적화 |
| 체인 | 여러 컴포넌트를 파이프라인처럼 연결하여 순차적 작업 수행 |
| 에이전트 | llm이 스스로 판단하여 적절한 도구를 선택하고 실행하는 자율 시스템 |
| 메모리 | 대화 맥락을 기억하여 일관성 있는 답변 생성 |
| 도구 | 웹 검색, 계산, API호출 등 llm이 외부와 상호작용하는 인터페이스 |
한계
- 순차적 구조
- 복잡한 흐름 제어가 어려움, 조건 분기, 반복 병렬 처리가 복잡함
⬇️⬇️⬇️⬇️
LangGraph
필요성
- 복잡한 에이전트의 행동구현을 위함
개요
- State 기반 그래프 구조를 생성하여 복잡한 워크플로우를 설계하는 프레임워크
- Node : 작업단위, Edge : 작업 간의 흐름 정의
특징
| 조건부 분기 | 상태에 따라 다음 실행할 노드를 동적으로 결정 가능 |
| 병렬 처리 | 여러 노드를 동시에 실행하여 효율성 증대 |
| 순환 및 반복 | 그래프 내 순환 구조를 만들어 특정 작업 반복 기능 |
| HITL 기능 | human in the loop, 중간에 실행을 멈추고 사용자 승인 대기 가능 |
RAG
- LLM의 생성능력 + 외부 지식 검색 능력의 결합 기술
필요성
- 인용을 통해 신뢰도 확보, 환각 감소
- LLM 한계 극복
장점
- 최신 정보 및 내부 데이터를 기반으로 답변 생성
- 신뢰도 향상
- 재학습 없이 지식 소스 쉽게 업데이트 가능
작동원리 flow
Indexing
- 청킹 : 문서 로딩 및 분할, 의미 있는 작은 단위로 분할
- 임베딩 : 각 청크를 의미가 포함된 벡터로 변환
- 벡터 DB 저장
Retrieval
- 쿼리 임베딩 : 사용자 질문을 인덱싱과 동일한 모델로 벡터 변환
- 유사도 검색 : 질문 벡터와 유사한 문서 청크 벡터를 DB에서 검색
Generation
-
프롬프트 구성 : [사용자 질문 + 검색된 문서 내용] 조합하여 LLM에 전달할 프롬프트 구성
-
답변 생성 : 제공받은 context를 기반으로 답변 생성
고급 기술
- 하이브리드 검색 : 의미 기반 벡터 + 키워드 기반 검색 결합으로 정확도 향상
- 재순위화 : 초기 검색 결과를 더 정교한 모델로 재평가하여 질문과 관련성이 높은 문서 선별
- 쿼리 확장 : 사용자 질문을 다양한 형태로 변형, 확장하여 검색 성능 증대
- 메타데이터 필터링 : 문서 생성일, 카테고리 등 메타데이터를 활용해 검색 범위를 좁혀 효율성 확보
난 성미다.