벡터 DB와 RAG

이번 활동을 통해 예상되는 결과

벡터DB와 LLM이 RAG 기반으로 벡터DB를 탐색하고 이해 가능하게 하는 원리를 이해 할 수 있을 것 같습니다.

탐구 과정

관련 자료를 찾기위해 LLM이 동음이의어를 처리하는 방식을 공부했다

그를 위해서 트랜스포머와 LLM벡터를 공부하였고 이를 바탕으로 RAG의 핵심인 시멘틱 검색을 이해하게 되었다

그 과정에서 잘 이해되지 않는 부분은 장준민의 도움을 받아 공부했다

AWS에서 제공한 자료와 각종 해외 유튜브를 통해 이해도를 넓혔다

탐구 결과

• 1, 2 : 사용자가 메모를 작성하고 DB에 저장함
• 3, 4, 5 : 저장 후 메모를 청킹해서 임베딩된 데이터를 Vector DB에 저장

여기에서 "청킹"과 "임베딩" 이란?

이걸 설명하기 위해선 일반적인 DB의 형태를 알아햐 한다.

이 내용을 비개발자도 쉽게 이해하게 하기 위해서 예시 JSON 자료형으로 표기하겠다.

{
  "게시물 번호": 3,
  "제목" : "테스트 글 제목",
  "내용" : "태정재세 문단세",
  "작성자" : "최은수",
  "작성자 번호" : 336,
  "작성일" : "2026-06-27"
}

그렇다면 이를 벡터 DB에선 어떻게 저장할까?

Vector DB 저장법

{
  "게시물 번호": 3,
  "제목" : "테스트 글 제목",
  "내용" : "태정재세 문단세",
  "임베딩" : [0.123, -0.983, 0.627 ... ], <-- 이 부분이 추가됨
  "작성자" : "최은수",
  "작성자 번호" : 336,
  "작성일" : "2026-06-27"
}

여기에서 임베딩에 적힌 저 소수들이 벡터값이다 (다차원)

왜 벡터를 사용해야할까?

이게 바로 시멘틱 검색(의미 기반 검색)의 핵심이다

단어에는 동음이의어 개념이 있다

즉, 같은 단어이지만 사용하는 상황에 따라 다른 의미를 갖는 단어들이 있다는 뜻입니다

예를 들자면 "눈" 이란 단어는

빛의 자극을 받아 물체를 볼 수 있는 감각 기관. 척추동물의 경우 안구 라는 뜻과

대기 중의 수증기가 찬 기운을 만나 얼어서 땅 위로 떨어지는 얼음의 결정체 라는 뜻이 있다

일반적인 DB 검색 (SQL Query, JPQL) 에서는 두 "눈" 모두 같은 "눈"으로 취급 받는다

그러나 그 둘은 엄연히 다른 의미를 가지고 있다

그렇기에 같은 소리가 나지만 의미가 다른 단어는 완전 다른 백터값으로 저장해서 LLM이나 임베딩 모델이 사용자가 원하는 정보를 더 정확하게 찾을 수 있게 한다

그렇다면 "청킹" 은 뭘까?
위에서 설명했듯 임베딩은 의미를 벡터로 표현 하는거다

그런데 임베딩 할 단어가 많아지면 의미를 정확히 정의하기 어려워진다

따라서 개발자가 지정한 길이의 문단으로 문장을 쪼개고 각각을 임배딩 하여 벡터DB에 저장하는거다

그 쪼개는 것을 청킹이라 한다

• 7, 8 벡터기반으로 조회

벡터기반으로 조회 할 땐 VectorDB에 저장하기 위해 사용한 임베딩 모델을 이용해 시멘틱 검색을 한다

쉽게 시각화 해서 설명하자면

1 사용자가 "눈이 아플때 치료법" 관련 자료를 RAG로 찾고싶어한다

2 "눈이 아플때 치료법"을 벡터화 한다

3 벡터기준으로 가까운 정보를 검색한다

• 9, 10, 11, 12 : 이를 바탕으로 검색된 "눈이 아프다", "눈병이 났다" 데이터를 LLM에게 평문으로 전송하고 결과를 사용자에게 전달한다

탐구를 하면서 느낀 점

나는 RAG가 LLM이 DB를 돌아다니면서 검색하는줄 알았다

그러나 임베딩을 하고 임베딩된 벡터를 기반으로 수학적인 검색을 한다는게 신기했다

기존에 RAG를 적용하려했던 Gotion AI의 설계를 명확히 했다

AI쪽은 잘 몰라서 공부하는데 많이 어려웠지만 친구의 도움으로 이해하기 쉬웠던것 같다

오랜만에 무언갈 탐구하는게 재밌다고 느꼈고 나름 즐겁게 탐구한것 같다

단기간에 학습한 내용이기에 틀렸을 수 있습니다!!
고수분들이 댓글로 알려주시면 바로 반영해서 올리겠습니다