🦜⛓️LangChain의 개념과 구조

LangChain 하면 초록 앵무새와 체인으로 많이 표현하던데 그 이모티콘을 찾지 못해서 제목처럼 쓰니 뭔가 짭 같지만 여러분이 아시는 그 랭체인 맞습니다,,

✅ LangChain의 개념

보통 LangChain의 개념을 '언어 모델로 구동되는 어플리케이션을 개발하기 위한 프레임워크'라고 한다. 근데 솔직히 이 설명은 봐도 이해가 안 간다. 그래서 쉽게 말하자면, LangChain은 '초거대 언어모델(LLM) 어플리케이션 개발용 도구 모음'이다. 예를 들어, chroma라는 DB와 LLM을 이어줘서 PDF 파일을 저장해 두었다가 그 데이터를 기반으로 답변을 해준다. 이렇게 PDF, CSV를 불러오고 문서를 쪼개는 등 LLM과의 연결 역할을 LangChain이 해주는 거다.

사실 LangChain, 굳이 안쓰고 필요한 것만 하나씩 불러와서 써도 된다. 그러나 도구가 모여 있으니 훨씬 효율적인 거다. LangChain 외에 semantic-kernel, haystack도 있는데 LangChain을 쓰는 이유는 지금 많이 쓰니까,, Frontend로 Django, Flask, Streamlit 등 많지만 Django를 추천하는 이유가 많이 쓰기 때문인 것과 같은 이유이다.

✅ LangChain의 역할

그럼 이제 LangChain의 구체적인 역할을 알아보자. LLM을 불러와 추가 학습을 시키고자 할 때 LangChain이 굳이 있어야 하나 싶었다. ChatGPT만으로 되지 않나 싶었기 때문이다. 하지만 ChatGPT는 몇 가지 한계가 있다.

ChatGPT의 한계

• 정보 접근 제한 : ChatGPT(GPT-3.5)는 2021년까지의 데이터를 학습한 LLM(초거대언어모델)이므로 2022년부터의 정보에 대해서는 답변을 하지 못하거나 거짓된 답변을 제공한다. 또한, 인터넷 검색 기능이 없어서 기존에 학습되지 않은 지식을 물어보면 엉뚱한 대답을 할 때가 많다.
• 토큰 제한 : GPT-3.5와 GPT-4는 각각 4096, 8192토큰이라는 입력 토큰 제한이 존재한다.
• 환각현상(Hallucination) : Fact에 대한 질문을 했을 때, 엉뚱한 대답을 하거나 거짓말을 하는 경우가 많다.

→ 언어 모델을 더 잘 활용할 수 있도록 도와주는 도구

LangChain의 ChatGPT 한계점 보완

LangChain은 ChatGPT의 이러한 한계를 보완해준다.

어떻게? ChatGPT를 개량한다! 개량 방법의 예시는 다음과 같다.

• Fine-tuning(기존 아키텍처를 사용 용도에 맞게 미세 조정하는 과정) : 기존 딥러닝 모델의 weight를 조정하여 원하는 용도의 모델로 업데이트
  → Vectorstore 기반 정보 탐색/Agent를 활용한 검색 결합
• N-shot Learning : 0개 ~ n개의 출력 예시를 제시하여 딥러닝이 용도에 알맞은 출력을 하도록 조정
  → TextSplitter를 활용한 문서 분할
• In-context Learning : 문맥을 제시하고, 그 문맥을 기반으로 모델이 출력하도록 조정

LangChain은 이 중 In-context Learning을 다루는 도구이다. Fine-tuning은 모델을 다시 학습시키는 것인데 고비용의 방법이기 때문에 ChatGPT를 학습시켜 어떤 분야의 전문가를 만듦으로써 많은 부분을 해결해 주는 In-context Learning을 활용한다.

따라서 LangChain을 활용하면 LLM의 문제를 해결해주고 활용도 높일 수 있는 것이다.

✅ LangChain의 구조

• Prompts : 초거대 언어모델에게 지시하는 명령문
  • Prompt Templates, Chat Prompt Template, Example Selectors, Output Parsers
• Index : LLM이 문서를 쉽게 탐색할 수 있도록 구조화 하는 모듈
  • Document Loaders, Text Splitters, Vectorstores, Retrievers
• Memory : 채팅 이력을 기억하도록 하여 이를 기반으로 대화가 가능하도록 하는 모듈
  • ConversationBufferMemory, Entity Memory, Conversation Knowledge Graph Memory
• Chain : LLM 사슬을 형성하여 연속적인 LLM 호출이 가능하도록 하는 핵심 구성 요소
  • LLM Chain, Question Answering, Summarization, Retrival Question/Answering
• Agents : LLM이 기존 Prompt Template으로 수행할 수 없는 작업을 가능케 하는 모듈
  • Custom Agent, Custom MultiAction Agent, Conversation Agent