강의 소개
마지막 강의로는 여러분들이 학습 과정을 로깅하는 방법과 툴 2가지를 소개해 드리겠습니다.
그리고, 머신러닝 학습을 위한 방법 가운데서 Jupyter notebook과 Python IDLE 프로젝트가 어떤 장단점이 있는지 살펴보도록 하겠습니다.
Further Reading
- Weight&Biases 홈페이지: 실험 관리 툴 wandb의 홈페이지 입니다. 해당 페이지에서 wandb에서 지정한 프로젝트의 결과를 확인할 수 있습니다.
- Paperswithcode: 최신 논문과 해당 논문의 코드를 확인할 수 있는 페이지 입니다.
Training Visualization
colab이나 jupyter 같은 환경을 쓸 때, 사용하다 중간에 꺼지기도 한다. 이럴 때 log를 남기면 어디서부터 진행이 안되었는지 tracking이 가능하며, 그 값들을 토대로 다음 과정을 진행할 수 있다. 이러한 도구의 대표적인 예로 Tensorboard와 wandb가 있다.
Tensorboard
Pytorch에도 추가된 Tensorboard도 학습 과정에 들어가는 여러가지 metric들을 설정해서 발생하는 로그에 대해 웹페이지에서 tracking이 가능하다. tensorboard를 다른 터미널에서 연결하여 실행하면 tensorboard를 통해 학습이 진행되는 과정들도 볼 수 있다. 또한 이 것을 시각적으로 보여주어 보기에도 매우 간편하다.
또 다른 장점은, augmentation을 통해 랜덤하게 변화되며, dataloader를 통해 학습에 입력되는 이미지가 어떤 것인지 바로 확인이 가능하다.
실제 사용법은 아래와 같다.
로그가 저장되는 경로를 설정하고, host를 설정하는데 로컬에서 할 경우 자동으로 localhost로 되기에 따로 입력해줄 필요는 없으며, 열려있는 port 번호를 입력하면 동작을 한다.
Weight and Bias(wandb)
또 다른 강력한 툴은 딥러닝 로그의 깃허브 같은 느낌은 wandb이다.
wandb 연결은 아래와 같이, wandb를 실행 후 wandb 로그인 과정은 거쳐야 한다.
wandb login 명령을 실행하면 해당 url로 들어가서 계정입력을 하면 된다.
사용법은 아래와 같이,
wanddb를 initiaize하고 어떤 log를 남길 지에 대해 정해놓으면 된다.
결과는 아래와 같이 페이지에서 로그를 확인이 가능하다.
