RAG란..
Retrieval-Augmented Generation의 약자로 검색 증강 생성 방식이다.
LLM의 환각 현상을 방지하고자 RAG로 외부 정보를 활용해 LLM이 더 정확한 답변을 생성하도록 한다. RAG는 외부 데이터베이스나 문서에서 정보를 검색하여 이를 기반으로 텍스트를 생성하므로 정확성이 높아진다.
하지만,, RAG는 직접 옳은 데이터를 찾아 저장해놓고 그 데이터를 기반으로 검증하도록 하는 번거로움이 있다. 자동 수집도 가능하지만 최신 정보나 전문적인 데이터를 반영하려면 직접 제공하는 것이 가장 효과적이다.
Pinecone이란..
벡터 데이터베이스이다.
텍스트 데이터를 임베딩하여 Pinecone에 벡터 데이터를 저장한다.
임베딩(Embedding): 벡터로 변환하는 과정
Pinecone에 저장된 벡터 데이터를 다시 텍스트 데이터로 역임베딩 할 수 있는 방법은 아직 없다. Pinecone에 저장된 데이터를 사용하고 싶으면 원본 데이터를 metadata에 함께 저장해야 한다.
RAG가 벡터 데이터를 사용하는 이유
RAG는 검색 과정에서 비슷한 의미의 데이터를 찾는 것이 핵심이다.
의미가 비슷한 단어들은 벡터로 변환했을 때도 비슷한 값을 갖기 때문에, 정확히 같은 단어가 아니더라도 비슷한 벡터 값을 가져서 검색할 때 비슷한 의미의 데이터를 찾아 함께 검색해온다.
이 외에도 벡터 데이터베이스를 사용하면 검색 속도가 빠르다는 장점이 있다.
프로젝트에서 사용한 RAG + Pinecone
🤖 내 교수님은 AI
사용자가 강의자료와 기출문제를 업로드한 후 원하는 키워드를 입력하면 요약본과 연습문제를 생성하고 채점 결과를 바탕으로 피드백과 추가 연습문제를 생성해주는 서비스
- 강의자료와 기출문제 데이터를 임베딩하여 Pinecone에 저장
- 사용자가 입력한 키워드로 RAG 검색
=> 검색된 데이터를 OpenAI에 넘겨서 요약본과 연습문제 생성
