llama2_모델_download_하는 법

heyme·2023년 12월 11일

local 모델을 RAG에 적용해보기 위해 llama2 모델을 다운받았다. 혹시 이 방법이
다시 필요하게 되거나 다른 사람에게 필요할 지도 모르니 정리해 두려고 한다.

1. llama 사이트에서 모델 다운로드 신청

https://ai.meta.com/llama/ 여기에서 Download the Model을 클릭한다.
그럼 이름, 나이, 신분 등을 적고 url을 받을 이메일 주소까지 적으면 신청 완료

2. 다운로드 url 링크 받기

그럼 약 5분뒤? 다운로드 url이 포함된 이메일이 온다.
아래 그림은 url이 잘렸지만 엄청 긴 url을 주는데, 나중에 다운로드 받을 때 사용한다.
url은 24시간 동안 사용가능하고 하나의 url로 5번까지 원하는 모델을 다운받을 수 있다.

3. 모델 다운로드

다시 작업환경으로 돌아가서 llama github 클론하고 아래처럼 다운로드 셸파일을 실행한다.
그럼 URL from email을 입력하라고 하는데, 아까 받은 url을 복붙하면 된다. 그럼 다운로드 시작

4. 다운로드 완료

어쩌구 저쩌구 기나긴 다운로드가 완료된다.
그럼 아래처럼 ./llama-7b-char 폴더 안에 가중치 파일을 확인할 수 있다.

0개의 댓글