아틀라스가 클라우드서비스
아틀라스 로컬 인스턴스 설치 가능
- atlas가 머에요
- 도커 공부하기
사전준비 완료
RAG ❤️ Vector Search
임베딩 모델이 데이터를 벡터로 변환
임베딩 모델을 잘 선택하는게 중요하다
쿼리 날릴 때 꼭 해야 하는 것; 임베딩 모델로 인코딩해야 벡터끼리 유사도 검색이 가능
보이지 모델이 나노라
로컬
와 하나도 모르겠어 뭔말이지
chunking
큰 텍스트 좍을 작은 segment로 나눔
청크 만든 후 임베딩 돌림 이게 바디가 되어야 임베딩 돌림
나머지 메타 데이터는 그대로 씀
나 왜 step1 부터 안되지요
문서당 평균 6개로 쪼개짐
청킹해놓은 문서에서 5개 결과 가져옴
RAG의 생성 component
커널 선택 문제 였음
readme에 있는 내용대로 커널 재선택하기
로컬 RAG 파이프라인 구축의 장단점
- 장점 ; 내부문서 보안유지, 돈이 안듦
- 단점; 매우 느린 속도
아 저는.. 로컬에서 llm 굳이굳이 진짜 굳이 라고 생각해요
다양한 모델 선택이 가능한 것도 아니고... 물론 다양하지만 그걸 다 설치를 해야만 하잖아요
전 메인 교통수단이 비행기가 아니라서....
파이썬 파일 실행해보기
쉽게 말해서 자동으로 연결된 게 아니라, 실습 파일(코드) 안에 이미 "MongoDB와 연결해라"라는 주소가 미리 적혀 있었기 때문입니다.
우리가 인터넷 주소창에 naver.com을 치면 네이버에 접속되는 것처럼, 멘토님들이 준비해 주신 파이썬 실습 코드 안에 로컬 MongoDB 주소가 미리 세팅되어 있었던 거예요.
조금만 더 풀어서 설명해 드릴게요.
- 내 노트북에 가상 서버 띄우기 (Local Atlas)
실습 시작할 때 명령어(Atlas CLI)를 입력해서 내 노트북 안에 가상의 MongoDB 서버를 하나 만들어서 켰습니다. 내 컴퓨터 안에 '미니 데이터베이스 창고'가 생긴 셈이죠.
- 코드가 주소를 찾아감 (.env 파일)
실습 폴더에 있던.env라는 설정 파일에 이 가상 창고의 주소(예:localhost:포트번호)가 적혀 있었습니다. 파이썬 코드가 실행되면서 이 주소를 읽고 "아, 내 컴퓨터 안에 켜져 있는 MongoDB 창고로 들어가면 되는구나!" 하고 알아서 찾아간 것입니다.
- MongoDB가 한 일 (창고 역할)
- 데이터 검색: 사용자가 질문을 하면, 코드가 이 MongoDB 창고로 숑 들어가서 "이 질문이랑 제일 비슷한 문서(데이터) 좀 찾아줘" 요청하고 가져옵니다.
- 대화 기억: "방금 사용자가 한 질문이랑 AI가 한 답변도 이 창고에 같이 저장해 둬" 하고 기록해 두는 역할을 한 것입니다.
즉, 멘토님들이 주소 설정을 미리 다 해두셨기 때문에 예진 님은 코드만 실행했는데도 마치 자동으로 마법처럼 연결된 것처럼 보였던 거랍니다!
- 코드 리뷰 해보기
