LLM Day 32 - Adaptive RAG

1. RAG (Retrieval-Augmented Generation)

📚 뜻: "검색이랑 글쓰기(생성)를 같이 하는 똑똑한 챗봇 방법"
🔍 예시: 질문하면, 먼저 구글처럼 자료를 검색해서 그걸 바탕으로 대답을 만들어주는 방식.
🤖 챗봇이 모르는 걸 뇌에서 꺼내는 게 아니라, 찾아보고 알려줘!

2. Adaptive RAG

🎛️ 뜻: "질문에 맞춰 가장 똑똑한 방법을 스스로 선택하는 RAG"
🧠 챗봇이 "이건 자료 검색 안 해도 되겠다", "이건 여러 번 찾아야겠네"를 스스로 판단함.
📌 적응형(adaptive)이라는 말처럼, 상황을 보고 행동을 바꿈.

3. 쿼리(Query)

💬 뜻: 챗봇이나 검색창에 넣는 “질문” 또는 “요청”
예: “바나나는 어디서 왔나요?” → 이게 쿼리야.

4. 라우팅(Routing)

🛣️ 뜻: "어떤 길로 갈지 결정하는 과정"
🧭 챗봇이 질문을 보고, ‘어떤 전략으로 답할지’ 길을 정함.

5. 3가지 라우팅 전략 (Adaptive-RAG: Learning to Adapt Retrieval-Augmented Large Language Models through Question Complexity)

https://arxiv.org/abs/2403.14403

① No Retrieval (자료 안 찾고 바로 대답)

🧠 챗봇 뇌 속에 있는 걸로만 대답
예: “1 더하기 1은 뭐야?” → 바로 “2”

② Single-shot RAG (한 번만 검색)

🔍 한 번 찾아보고 그걸로 대답
예: “오로라가 뭔가요?” → 위키피디아에서 한 번 찾아보고 답해줘

③ Iterative RAG (여러 번 검색하며 생각)

🔁 계속 여러 자료를 찾아보면서 생각을 정리
예: “기후 변화의 주요 원인과 해결 방안은?” → 하나 찾고, 또 다른 것도 찾아보고, 조합해서 대답

6. LangGraph

🕸️ 뜻: 챗봇이 “생각하고 행동하고 다시 돌아오는 흐름(flow)”을 쉽게 그릴 수 있는 도구
🤖 챗봇 머릿속의 행동 경로를 ‘그래프’처럼 만들 수 있음
⚙️ 복잡한 대화나 작업을 단계별로 구성해주는 도구