[NLP] Llama 2 다운로드하기

잉송·2023년 7월 19일
3

NLP

목록 보기
7/9

1. Meta 사이트 가기

우선, meta 사이트에 접속한다. llama2에 대한 자세한 이야기와 성능등을 볼 수 있다.
https://ai.meta.com/llama/

2. 모델 접근 신청하기

모델을 접근 신청하기 위해서는 간단한 정보를 작성하면된다.

https://ai.meta.com/resources/models-and-libraries/llama-downloads/

3. 접근 허가 메일 확인하기

보통 1~2일 걸린다고 했었는데, 신청하자마자 거의 바로 메일이 왔다. 약 10-15분 소요된다. 간단한 주의사항과 사용법등이 적혀있다.
아래는 필자가 받은 메일의 일부이다. 중요한 다운로드 url이다.

The unique custom URL provided will remain valid for model downloads for 24 hours to download each model up to 5 times, and requests can be submitted multiple times.
Now you’re ready to start building with Llama 2.

"24시간 동안 유효하며 각 모델을 최대 5회까지 다운로드할 수 있다."라는 주의사항이 있다.

4. Meta AI github가기

url를 통해 다운로드 받기 위해 meta github에 접속했다.
https://github.com/facebookresearch/llama
모델을 다운로드 받기 위해서 아래와 같은 명령어를 실행했다.

git clone https://github.com/facebookresearch/llama.git
cd llama
chmod 755 download.sh
./download.sh

5. download.sh

download.sh를 bash에서 성공적으로 작동시키면 다음과 같은 텍스트가 나온다.

Enter the URL from email: 

여기에 본인이 받은 3번의 접근 url를 복붙하면 된다.
그 다음 아래와 같은 텍스트가 나온다.

Enter the list of models to download without spaces (7B,13B,70B,7B-chat,13B-chat,70B-chat), or press Enter for all

이제 본인이 원하는 모델의 사이즈를 입력하면 다운로드가 된다~~!!
이면 좋겠지만 6번으로 넘어간다...

6. 다운로드 오류

물론 다운로드가 잘되면 다행이지만, 현재 meta ai-llama repositoty는 403 issue로 머리 아파하는 사람들이 많?다. (나 포함)

이유는 다운로드가 정상적으로 이루어지지 않고 있기 때문이다. 403번으로 도배되고 있는 상황. 필자 또한 그러한 상황.

성공한 사람 왈
1) 성공할 때 까지 계속 실행해
2) 새 접근 url 받아.

필자는 1번을 시도하다, 2번으로 갈아탔다.
앞의 1-5번을 한 번더 반복했다는 말이다.
이후 새로운 접근 url를 받고 정상적으로 작동중이다!!!!

다들 llama2 모델 성공적으로 다운로드 합시다~~

profile
NLP 공부하는 사람

3개의 댓글

comment-user-thumbnail
2023년 7월 19일

가치 있는 정보 공유해주셔서 감사합니다.

1개의 답글
comment-user-thumbnail
2023년 12월 25일

70B 사이즈 어느정도인가요?

답글 달기