privateGPT🔐 사용해보기

PrivateGPT 🔐

• 데이터 유출없이 gpt를 사용하는 방법입니다.
• 사용할 수 있는 데이터 형태가 아래와 같이 아주 다양한 것을 확인할 수 있습니다.

  .csv: CSV,
  .docx: Word Document,
  .doc: Word Document,
  .enex: EverNote,
  .eml: Email,
  .epub: EPub,
  .html: HTML File,
  .md: Markdown,
  .msg: Outlook Message,
  .odt: Open Document Text,
  .pdf: Portable Document Format (PDF),
  .pptx : PowerPoint Document,
  .ppt : PowerPoint Document,
  .txt: Text file (UTF-8),

1. 우선 터미널에 git clone을 해줍니다.

git clone https://github.com/imartinez/privateGPT.git

2. 그 다음에 기본 path를 설정해주세요.

cd privateGPT

3. 필요한 라이브러리를 설치해 줍니다.

pip3 install -r requirements.txt

4. 다음은 필요 llm모델을 다운받고, model이라는 새로운 파일을 생성한 후 다운 받은 모델을 그 안에 넣어줍니다.

wget https://gpt4all.io/models/ggml-gpt4all-j-v1.3-groovy.bin

5. 그 다음 example.env 파일 이름을 .env로 변경해 주세요 (.env 파일에는 필요한 정보들이 들어있습니다.)

6. source_documents 폴더안에 있는 파일들을 불러와 ingest하는 과정을 거칩니다.

python ingest.py

7. 마지막으로 질문을 하기위해 아래와 같은 명령을 해주면 답변과 어디서 찾았는지 등의 정보를 얻을 수 있습니다.

python privateGPT.py

저는 예제 텍스트에 대한 질문이 딱히 떠오르지 않아 텍스트 파일의 제목을 물어봤습니다.
Question / Anwser / Source documents 에 대한 결과를 보여줍니다 !

다음번에는 다른 데이터 형태를 가지고 실험해보도록 하겠습니다.😺

reference

• privateGPT git : https://github.com/imartinez/privateGPT