2025/04/04 TIL

RAG 란?

✔️ **RAG의 개념을 이해합니다.**

• RAG 란? 📌 **RAG(Retrieval-augmented generation) 라는 기법을 사용합니다. 복잡한 이론 설명 없이 비유를 통해 쉽게 설명드릴께요!** - 보통 우리가 제공할 자료는 TEXT 파일 및 PDF 형태로 적게는 2~3장 많게는 300장 이상까지도 갑니다. → **이미 질문을 하기 전부터 토큰 갯수 초과** - 예를 틀어 300 장 짜리 PDF 자료에 질문을 하면? 답변하는데 300장의 내용이 다 필요할까? → 대부분 아닙니다! 대부분 사용자의 질문에 대한 내용은 한 단락 많게는 2~3단락의 내용이면 답변이 가능합니다.
• 자료가 아무리 방대해도 사용자의 질문에 대한 답이 있는 위치만 안다면 해당 부분만 을 사용해서 토큰수 제한 없이 답변이 가능하다!
• LLM이 학습하지 않은 데이터를 활용해서 챗봇 제작이 가능하다
  • 고객 지원 시스템:
    • 적용 방식: RAG를 활용한 고객 지원 시스템은 고객이 특정 제품이나 서비스에 대해 질문할 때, 실시간으로 관련 정보를 검색하여 정확한 답변을 제공합니다. 예를 들어, 고객이 "내 주문 상태를 어떻게 확인할 수 있나요?"라는 질문을 하면, 시스템은 관련 내부 데이터베이스에서 해당 주문 처리 절차나 고객 계정 정보 등을 검색하여 즉시 답변을 제공합니다.
    • 효과: 이를 통해 고객은 신속하고 정확한 답변을 받을 수 있어, 만족도가 높아집니다. 또한, 시스템이 고객의 구체적인 상황에 맞는 답변을 제공하기 때문에, 고객 지원 팀의 업무 부담이 줄어들고, 복잡한 문의에도 신속하게 대응할 수 있습니다.
  • 데이터베이스 검색 및 지식 관리 시스템:
    • 적용 방식: 기업이나 연구기관에서 RAG를 사용하여 방대한 양의 데이터베이스나 문서에서 필요한 정보를 검색하고 요약할 수 있습니다. 예를 들어, 연구원이 특정 주제에 대한 최신 연구 결과를 찾고자 할 때, RAG는 관련 논문이나 데이터베이스에서 필요한 정보를 신속하게 검색하고 요약하여 제공합니다.
    • 효과: RAG는 단순한 키워드 검색이 아니라, 문맥에 맞는 가장 관련성 높은 정보를 제공하므로, 사용자에게 정확하고 유용한 정보를 더 빠르게 제공합니다. 이는 의사결정 과정에서 신뢰할 수 있는 정보를 기반으로 빠르게 결정을 내릴 수 있도록 도와주며, 연구 및 개발 시간을 단축하는 데 기여합니다.