📚 제미나이 인공지능 프로그래밍

라마인덱스

구글 코랩: 구글이 무료로 제공하는 파이썬 개발 환경
구글 코랩에서 프로그램을 노트북(.ipynb)라는 파일에 작성 및 관리하며, 노트북은 구글 드라이브에 저장
작성한 노트북을 열면 구글 코랩의 인스턴스 실행
( 인스턴스: 클라우드상의 가상 서버)

노트북에서 파이썬 스크립트를 실행하면 인스턴스에서 실행되고,
그 결과가 노트북에 출력

TPU: 구글이 개발한 머신러닝 전용 하드웨어 가속기로, 텐서플로 프레임워크에 최적화

구글 드라이브 마운트
마운트: 디스크 드라이브를 인식하여 사용 가능한 상태로 연결

파이썬 최신 버전 설치 후 가상 환경을 만들고 필요한 추가 패키지 설치
( → 아나콘다: 파이썬의 체계적인 패키지 관리와 데이터 사이언스 및 머신러닝 등 개발 환경 구축)

제미나이 API

텍스트 생성
문장 생성, 질의응답, 요약, 번역, 대화 등
스트리밍: 텍스트를 생성할 때 일정한 글자 수 단위로 출력을 반환하는 기능 → 빠르게 응답을 받아 사용자에게 표시 가능(generate_content() 함수에 stream=True로 설정)
챗 기능: 멀티턴 대화 가능(chat.history를 사용하여 현재까지 모델화 대화했던 내용을 가져옴)

멀티모달
여러 입력 방식을 결합한 정보를 처리하거나 전달(텍스트, 이미지, 동영상, 음성 등)
고화질 이미지와 동영상은 File API로 업로드

임베딩
텍스트를 임베딩 벡터로 변환하여 표현
(참고: 임베딩 벡터란 유사한 의미의 단어나 문장을 벡터로 변환했을 때 서로 거리가 가깝고, 
유사하지 않은 의미의 단어나 문장은 벡터 간 거리가 멀어지도록 설계)

함수 호출
모델에서 외부 도구를 호출하여 이용하는 기능
즉, 개발자가 사전에 정의한 함수를 모델이 선택, 호출할 수 있도록 하는 기능
예를 들어 “서울의 기온은?”이라고 질문하면 모델 자체로는 정확한 답을 제공할 수 없지만 개발자가 기온 정보를 가져오는 외부 프로그램을 함수로 미리 정의하면, 모델이 기온에 관한 질문을 받았을 때 그 함수를 호출해서 결과를 반환 가능

파인 튜닝
사전 학습된 모델에 특정 요구 사항을 충족하는 학습 데이터를 추가로 학습시켜 작업 품질을 향상시키는 방법
예: 출력을 임의의 어조나 문체로 조정, 출력의 신뢰도 향상, 토큰 수 단축을 이용한 추론 시간 및 비용 개선 등

제미나이 API

✅ 라마인덱스(LamaIndex): LLM(대형 언어 모델)이 외부 데이터를 효율적으로 검색하고 이해할 수 있도록 도와주는 데이터 프레임워크로, 사용자가 보유한 문서나 데이터베이스를 기반으로 즉시 대화형 인터페이스를 제공 가능

핵심 특징:
• 🔍 외부 문서를 기반으로 질의응답(QA)
사전 학습(pretraining)이 안 된 정보도 사용자가 제공한 데이터 기반으로 응답 가능
• 🧩 다양한 데이터 소스 연결 가능
PDF, Notion, Google Drive, DB, API 등 실시간 외부 데이터 연동

✅ 활용 예시
• 고객 지원 챗봇: 고객 FAQ 문서 + 라마인덱스 → LLM 기반의 고객 응대
• 내부 문서 검색: 사내 정책 문서 + 라마인덱스 → 임직원 질의응답
• 개인 지식관리: 블로그/노션 정리내용 + 라마인덱스 → 나만의 AI 비서

라마인덱스

도메인 고유의 지식을 사용하여 전문 지식이 필요한 질의응답 챗봇을 쉽게 만들 수 있는 프레임워크
질문과 관련된 정보를 외부에서 검색하여 가져오고, 그 정보를 대규모 언어 모델에 프롬프트로 전달하여 외부 데이터를 기반으로 한 답변을 생성(RAG, 검색 증강 생성)

🆚 라마인덱스와 랭체인
둘 다 LLM 애플리케이션을 개발하는 프레임워크로,
라마인덱스는 외부 데이터 연동 등 기본적으로 필요한 기능을 짧은 코드로 구현 가능
랭체인은 논문에서 발표하고 얼마 지나지 않은 최신 기능을 빠르게 탑재

라마인덱스 핵심 단계: 로딩 → 인덱싱 → 저장 → 쿼링 → 평가

• 로딩: 데이터 소스(텍스트 파일, PDF, 웹 사이트, DB, API 등)에서 데이터를 가져오는 단계
• 인덱싱: 데이터 쿼리를 가능하게 하는 데이터 구조로 인덱스를 생성
(데이터베이스에서 인덱스란 원하는 정보를 효율적으로 취득하는 데이터 구조.
문서를 청크로 분할하고, 청크 단위로 데이터를 임베딩으로 변환해서 유지)
• 저장: 인덱스와 다른 메타데이터의 쌍을 저장
• 쿼링: 인덱스에 대한 쿼리를 실행하는 단계
(쿼리란 데이터베이스에서 정보를 검색하거나 조작하는 데 사용하는 명령)
• 평가: 쿼리에 대한 응답이 얼마나 정확한지, 신속한지 등을 객관적으로 평가하는 단계