Wandb 사용법

Wandb : 모델 Training 과정을 Visualization 해주는 Tool
필자가 재직하였던 회사에서 사용하였고, 연구, 회사를 막론하고 널리 사용되는 Tool이다.

1. Wandb 회원가입 & 프로젝트 생성

1. 하단 링크에서 wandb 회원가입을 진행한다.
   https://wandb.ai/site

2. Wandb 로그인 후, 프로젝트를 생성한다.
   

2. Wandb 연동

1. 프로젝트 터미널에서 wandb를 설치한다.
   환경에 맞게 두 명령어 중 하나를 이용하자.
   pip install wandb
   conda install wandb
   

2. wandb에 로그인한다.
   wandb login
   

3. 로그인 명령어시 생성되는 링크로 들어가서 인증키를 확인하고 복붙하여 연동을 진행한다.
   
   링크로 접속하면 하단 인증키를 확인할 수 있다. 이를 터미널에 복붙하여 로그인을 완료한다.
   

3. Wandb 사용

import wandb 로 wandb를 임포트한다.

1. wandb.init()

• wandb 객체를 생성하여 초기화해줌으로써 추적 시작을 준비한다.
• 모델 학습 이전에 정의해준다.
  
• wandb.init() 의 인자들 중 config, project, name 만 알면 된다.
• config : wandb에 기록할 파라미터들을 정의한다. 상단 이미지처럼 딕셔너리로 저장한다.
• project : wandb의 프로젝트 이름을 의미한다. 1번 단계에서 생성한 wandb의 프로젝트 이름을 적는다. (1번 단계의 사진의 예시에 따르면, "speechgpt_research" 를 인자로 넣어주면 된다.)
• name : wandb 프로젝트 내 학습되는 객체의 이름을 의미한다. 하단의 이름을 의미한다.
  

2. wandb.log()

• wandb에서 추적하여 모니터링할 수치를 입력한다.
• train loop 내에서 loss를 뽑아낸 후 정의한다.
  

3. wandb.finish()

• 학습이 끝나면, 추적을 종료해준다.
  

Summary

1. wandb.init() : 학습 시작 전에 정의. 하이퍼파라미터, 학습 이름, 프로젝트 이름 기록
2. wandb.log() : 학습 루프 내에 정의. 추적할 값들 로그로 찍음.
3. wandb.finish() : 학습 종료 후 정의. 추적을 종료함.

4. Wandb 확인

• 학습이 끝난 이후 wandb에서 학습 기록을 확인하고, 이를 토대로 다음 학습 전략을 세울 수 있음.
• wandb 로그인 후, 해당 프로젝트로 접속하여 확인