AI_심화-9 RAG, AI 에이전트

RAG

RAG(Retrieval-Augmented Generation, 검색 증강 생성)란 LLM의 단점을 보완하기 위해 등장했다. LLM(Large Lanuage Model)은 다음과 같은 단점과 한계점을 갖고 있다.

이하의 내용은 https://modulabs.co.kr/blog/retrieval-augmented-generation의 내용에 추가로 학습한 내용을 정리한 것입니다.

LLM의 단점과 한계

1. 편향성 문제
   학습 데이터에 내재된 편향성을 결과에 그대로 반영할 수 있다. 고정관념이나 차별적 표현을 생성할 위험이 있음.

2. 사실 관계 오류 가능성
   항상 정확한 정보를 제공하지 않는다. 허위 정보를 진실로 간주하고 전파할 수 있음.

3. 맥락 이해의 한계
   장문의 글이나 복잡한 글의 맥락 파악은 어려울 수 있다. 심층적인 이해에는 한계가 있음.

4. 윤리적 문제
   악용 가능성이 존재하며 책임소재 파악이 어렵다. 모델이 출력결과를 내놓는 과정의 검증 체계가 필요함.

RAG는 무엇을 보완하는가?

RAG는 위의 LLM의 단점 중 '사실 관계 오류 가능성'과 '맥락 이해의 한계'를 개선하는데 초점을 두었다. RAG는 LLM에 정보 검색 시스템을 연결해 모델의 생성 능력과 사실관계 능력을 향상시키는 기술이다. 검색 기반 정보 활용과, 생성 기반 응답 생성을 통합해 최신 정보를 가져오고, 도메인 특화 데이터를 다루는데 유용하다.

RAG는 사용자가 질문을 입력하면, 먼저 외부 데이터베이스 등에서 관련 정보를 검색한다.
그리고 검색된 정보를 언어 모델의 입력으로 포함시켜 답변의 정확성과 신뢰성을 높이고, 검색된 문서나 문장에서 중요한 컨텍스트를 추출한다. 이렇게 추출된 검색 결과를 바탕으로 언어 모델(GPT, T5, BERT)등이 자연스러운 언어로 결과를 생성하는 과정을 거친다.

RAG는 다음의 장점이 있다.
1. 최신 정보 제공

• 고정된 학습 데이터만을 사용하는 것이 아니라, 최신 정보를 검색해 정확한 응답을 제공함.
  2.메모리 효율성
• 외부 데이터를 실시간으로 활용하기 때문에 언어 모델 자체에 모든 지식을 포함시킬 필요가 없음.

3. 도메인 특화

• 특정 도메인의 문서를 활용해 해당 분야에 특화된 응답 생성 가능.

4. 높은 정확성

• 검새고딘 정보를 바탕으로 언어 모델이 생성한 결과를 보완하기 때문에 잘못된 추론 가능성을 낮춤.

RAG의 활용 사례

1. Microsoft Bing Search

• 사용자의 검색 질의에 대해 웹 페이지의 정보를 활용해 자연어로 응답 생성. 제공된 응답의 근거가 되는 웹 페이지 링크를 함께 제시함

2. Anthropic's Consitutional AI(CAI)
3. Perplexity AI

• 사용자의 질문에 대해 웹 검색을 통해 관련 정보를 수집하고, 이를 바탕으로 응답 생성. 제공된 응답의 출처와 검색 과정을 사용자에게 투명하게 공개함.

4. OpenAI's WebGPT

AI 에이전트

AI 에이전트는 특정 목적을 달성하기 위해 지능적인 작업을 수행하는 자율적인 소프웨어 시스템을 말한다.

AI 에이전트의 구성 요소

1. 환경

• AI 에이전트가 상호작용하는 외부 세계, 물리적 공간일수도, 네트워크일수도 있다.

2. 센서

• 위의 환경으로부터 정보를 수집하기 위한 모듈.

3. 의사결정 시스템

• 수집된 정보를 분석하고 최적의 행동을 선택한다.

4. 행동자

• 에이전트의 결정을 실제 행동으로 변환해 환경에 영향을 미친다.

5. 목표

• 에이전트가 달성하려는 정의된 목적이나 임무

AI 에이전트의 주요 특징

1. 자율성(Autonomy): 인간의 직접적인 개입 없이 독립적으로 의사결정, 행동
2. 환경 인식(Perception): 센서를 통해 주변 환경을 인식하고 데이터 수집
3. 의사 결정(Decision-Making): 수집된 데이터를 분석해 최적의 행동 선택
4. 학습 능력(Learning): 경험을 통해 성능을 개선하고 새로운 상황에 적응
5. 목표 지향적(Goal-Oriented): 특정 목표를 달성하기 위해 계획을 수립하고 실행

AI 에이전트의 유형

1. 단순 반사형 에이전트(Simple Reflex): 현재 상태만을 고려해 즉각적인 반응을 보임.
2. 상태 기반 에이전트(Model-Based Reflex): 과거와 현재 상태를 기반으로 행동 결정
3. 목표 기반 에이전트(Goal-Based): 특정 목표를 달성하기 위해 최적의 행동 결정
4. 유틸리티 기반 에이전트(Utility-Based): 목표 달성뿐만 아니라 만족도나 효용성 고려해 행동 결정
5. 학습 에이전트(Learning): 경험을 통해 성능을 향상시켜 새로운 상황에 적응

가상 비서 및 챗봇, 자율주행, 주식시장 분석, 스마트홈, 그리고 게임 내 복잡한 미션을 수행하는 캐릭터들이 AI 에이전트의 예시라고 할 수 있다.

AI에이전트는 인적 자원의 부담을 덜고, 신속한 의사결정을 24시간 내내 도울 수 있다는 장점이 있다.