BoostCamp Pstage day5

Model Averageing(Voting)

Cross Validation

validation을 train set에서 여러번 진행할 수 있다.
클래스의 분포를 고려한 validation은 Stratified K-fold라고 한다.

TTA(Test Time Augmentation)

test set에 augmentaion을 적용했을 때 판단하기 어려워하지 않을까?

Hyperparameter Optimization

앙상블만큼이나 시간이 많이 걸리지만 효과가 크게 달라지지 않을 수 있긴 하다. 그러나 시스템의 매커니즘에 영향을 주는 주요한 파라미터인만큼 알아두는 것이 중요하다.

• Baysian Optimization 알아보기
• Optuna 알아보기

Tensorboard

학습 과정을 기록하고 트래킹할 수 있다.

• 사용법
  --logdir PATH(log 저장 경로)
  --host ADDR(원격 서버에서 사용 시 0.0.0.0)
  --port PORT(포트번호)

Wandb

1. pip install wandb
2. wandb login
3. init, log 설정
   config파일 적용

Machine Learning Project

Jupyter notebook

코드를 셀 단위로 실행해볼 수 있는 것이 장점
특히, EDA를 할 때 사용하면 매우 편리하다.
노트북 창이 꺼지면 다시 돌아갈 수가 없다는 것이 단점

Python IDLE

Tips

Paper with Codes

최신 논문과 그 코드까지