해당 글은 유튜버 테디노트님의 강의를 보고 공부한 내용을 정리한 것입니다.
출처: 테디노트의 LangGraph 개념 완전 정복 몰아보기(3시간)
이번시간에는 전 시간에 이어서 멀티 LLM을 LangGraph에서 어떻게 활용하는지 알아보자.
먼저 멀티 LLM이란 무엇이냐.
멀티 LLM이란?
간단하게 멀티 LLM이란 하나가 아닌 2개 이상의 LLM을 사용하는 것을 의미한다.
2개의 LLM을 사용하게 되면 하나의 질문에 대해 2개의 LLM이 서로 다른 답변을 말할 수 있는데, 이때 2개의 답변을 비교해서 더 높은 퀄리티의 답변을 생성하거나, 둘 중 더 좋은 답변을 활용하는 것이 가능하다.
예를 들어 위와 같이 코드를 구성하게 되면 하나의 질문에 대해서 GPT, Claude 2개의 LLM이 활용되어 각각 병렬로 질문에 대한 응답을 진행하게 된다.
또한 조건부 엣지와 다르게 하나를 골라 실행하는 방식이 아닌 2개 모두 진행하는 방식이기 때문에 2개의 응답을 받아 처리할 수 있다는 장점이 존재한다.
이게 바로 멀티 LLM을 활용하는 방식 중 하나이다.
위 과정을 진행하게 되면 위와 같은 멀티 LLM의 구조가 완성되고, 병렬적으로 진행되는 모습을 확인할 수 있다.
이렇게 지금까지는 수도코드로 모든 것을 확인해보았는데, 이후 과정은 모두 실습 과정으로 자세한 내용은 테디노트의 LangGraph 개념 완전 정복 몰아보기(3시간)의 영상을 확인해보면 좋을 것 같다.
직접 코드를 구현하고, 할루시네이션을 줄이기 위한 관련성 평가 모듈 추가,
기존 쿼리에 대해서 할루시네이션 노드를 지나갔을 때 잘못된 쿼리의 경우 다시 반복해서 계속 잘못된 쿼리로 나오기 때문에,
이를 해결하기 위한
웹 검색 노드 추가, 쿼리 재작성 모듈 추가, 에이전트를 활용한 RAG, Adaptive RAG에 대한 자세한 내용을 확인할 수 있다.
