009. §챗봇 - RAG? RangChain? AI agent? micro domain ai agent 쉽게 구현하기 with NotebookLM

NotebookLM을 활용해서 저번에는 논문 내용을 쉽게 이해하는데 사용했었습니다.
이후에 어떤 식으로 활용 할 수 있을지 생각을 했었는데 저번에 제가 좋게 생각했던 마인드맵 기능과 대화기능이 충분히 구현 되어있기 때문에 이것을 이용해서 내가 정제 되어진 정확한 정보만 주어진다면 좋은 AI agent 그 자체가 되지 않나 라고 생각 했습니다.

각종 기기에 인공지능 모델이 결합되고 그에 적합한 연산 장치를 탑재한 edge device 세상으로 흐름이 이미 흐르게 되면서 최근 AI 에이전트에 대한 관심이 굉장히 높아졌다고 생각이 됩니다.
당장 취준생인 제 입장에서도 AI agent공고도 많이 보였거든요

제가 생각 했을 때 AI 에이전트란 스스로 환경을 인지하고 상황에 맞는 판단과 행동을 하는 지능형 시스템입니다. 가장 중요한 점은 단순한 명령 수행을 넘어, 자율적으로 문제를 해결하고 목표를 달성할 수 있는 자율성과 적응성입니다. 이를 위해 AI 에이전트는 정보를 수집하는 센서, 수집한 정보를 분석하고 의사결정을 내리는 프로세서, 그리고 실제 행동을 실행하는 액추에이터로 구성되어 있습니다. 또한, 축적된 지식과 기억을 활용해 상황에 맞는 최적의 대응을 하며, 외부 시스템과 유기적으로 연동되어 복합적인 업무를 수행할 수 있어야 합니다.사용자의 요구를 정확히 이해하고 자연스러운 소통으로 맞춤형 서비스를 제공하는 것이 AI 에이전트의 핵심 역량이라고 생각합니다.
NotebookLM을 활용한 챗봇은 이러한 AI 에이전트의 이상적인 구현 형태 중 하나입니다. 기존의 일반 챗봇과 다르게 NotebookLM은 사용자가 직접 올린 문서와 자료들을 바탕으로 답변을 생성하기 때문에 정보의 신뢰성과 정확성이 매우 높습니다. NotebookLM 챗봇이 단순한 대화 도구를 넘어 개인 맞춤형 지식 비서로서, 연구나 업무에서 꼭 필요한 핵심 내용 요약, 심층 질문에 대한 정밀한 답변, 나아가 글 작성과 아이디어 도출까지 다양한 역할을 수행할 수 있다고 봅니다. 답변에 출처를 명확히 제시함으로써 투명성을 확보해 준다는 점이 굉장히 좋구요

이런 이유로 NotebookLM을 통해 나만의 챗봇을 만들고 활용하는 것이, 흔히 Garbage In Garbage Out 이라는 말처럼 요즘 작은 언어 모델 제작 할때도 기존에는 무조건 양 이 중시되었는데 정제된 데이터 를 통해서 충분히 수준 높은 특정 도메인에서의 정확성을 보여주고 있다고 입증 되고 있고 그런 점에서 제가 준 데이터로 답변 해주는 이 녀석이 유용할 것 같습니다.

말은 길었지만 결국은 이녀석에게 정제된 데이터를 주고 AI 챗봇 역할로써 쓰기 충분하고 이유도 합당 하다는 저 나름의 논리? 생각입니다.

테스트

그렇다면 머리로 생각한대로 제대로 될 지 한번 해봅시다.
챗봇을 위해 어떤 정제된 데이터로 실험해 보는게 좋을까요.

https://alio.go.kr/
알리오에서 공개된 정보를 하나 받아보겠습니다.

예시로 한국 도로 공사의 2025년 1분기 자료를 pdf로 내려받아 테스트 하겠습니다.

이런식으로 답변을 해주고, 그것에 대한 근거가 마우스 커서를 올려보면 다 적혀 있기 때문에 실제 현업에서 많이 활용 될 것 같습니다.
특히 영어가 아닌 한국어로 되어있는 이런 자료에서도 정확히 근거를 따져서 답변을 제공하기 때문에 언어 장벽에 상관없이 사용할 수 있다는 점도 좋네요.

AI 챗봇이 회사 내규를 통해서도 학습해서 직원들의 QnA 처럼 내부적으로도 활용이 이렇게 될 수도 있지만 일반 소비자들이 많이 사용하는 은행 업무에서도 제대로 사용 가능 할지 금융 상품 pdf를 통해서 테스트도 해보겠습니다.

테스트로 특정 은행의 자유입출금 상품중 하나를 가져왔습니다.

이 은행 사이트에서는 각각 장바구니 처럼 담았을때 비교 해주는 이런 기능도 보여주긴 하네요? 그러나 이런것은 미리 DB에 개발자들이 정리해두고 염두해놓은 정보만 나오고 상호작용이 전혀 없는 상황입니다.

프롬프트로 직접 정보를 요구했고 이런식으로 잘 정리해서 잘 주고 역시 그 근거 또한 마우스 커서만 올려도 확인 가능하네요

제가 한 것 뿐만 아니라 여러 곳에서 더 활용 가능할 것 같고, 특히 여러 PDF를 소스 선택 할 수 있기 때문에 여러 자료를 통한 시너지도 얻기 좋을 것 같습니다.

자. 이렇게 가볍고 충분히 오히려 더 좋은 성능을 나타내는 챗봇을 이용해 보았습니다.
이런 용어를 제가 사용하고 싶네요 micro domain ai agent를 오늘 이용해 보았습니다.