Experiment Toolkits

Training Visualization

Tensorboard

• 학습 과정을 기록하고 트래킹하는 것도 중요하다.
  
• 사용법
  

Weight and Bias(wandb)

• 딥러닝 로그의 깃허브 같은 느낌
  
• wnadb login
• wandb init, log 설정
• 페이지에서 로그 확인

Machine Learning Project

Jupyter Notebook

• 코드를 아주 빠르게 cell 단위로 실행해볼 수 있는 것이 장점
  
• 보통 EDA를 할 때 사용하면 매우 편리
• 단점 : 학습 도중 노트북 창이 꺼지면 못돌아간다(불안정성)

Python IDLE

• 구현은 한 번만, 사용은 언제든, 간편한 코드 재사용
  
• 사용할 줄 알면, 어떤 코드도 무섭지 않게 된다는 디버깅 가능
• 자유로운 실험 핸들링
  

Tips

1) 분석 코드보다는 설명글을 유심히 보자

• 필자가 생각하고 있는 흐름을 읽을 수 있다.

2) 코드를 볼 때에는 디테일한 부분까지 이해하자.

• 언제든지 활용할 수 있을 정도로..!
• '암기'가 아닌 '이해'가 중요
  

3) Paper with Codes

• 최신 논문과 그 코드까지 확인 가능

4) 공유하는 것을 주저하지 말자.

• 새로운 배움의 기회가 될 수 있다.

Special Mission

1. Tensorboard, wandb를 이용해서 학습 과정을 모니터링할 수 있도록 구성해보세요.

Further Reading

• Weight&Biases 홈페이지: 실험 관리 툴 wandb의 홈페이지 입니다. 해당 페이지에서 wandb에서 지정한 프로젝트의 결과를 확인할 수 있습니다.

• Tensorboard 사용법, pytorch 공식 자료

  • https://tutorials.pytorch.kr/recipes/recipes/tensorboard_with_pytorch.html

  • https://tutorials.pytorch.kr/intermediate/tensorboard_tutorial.html

• wandb 사용법

  • https://docs.wandb.ai/integrations/pytorch

  • https://greeksharifa.github.io/references/2020/06/10/wandb-usage/

  • wandb 공식 문서 및 케라스 버전이긴 하지만 사용 방법이 동일한 포스트 남겨드립니다.

• Paperswithcode: 최신 논문과 해당 논문의 코드를 확인할 수 있는 페이지 입니다.