[Boostcamp AI Tech] [P-stage] 12주차 Day 2 학습 기록

bluegun·2021년 10월 20일
0

AI Tech 2기 활동

목록 보기
52/87

요약

대회 진행한 내용

  • 강의 따라 baseline 코드 분석
  • Efficient-unet epoch을 늘려 학습 -> 여전히 낮은 성능

대회 진행 상황

강의에서 제공받은 baseline 코드를 line-by-line으로 설명해주셔서, 어제 혼자서 분석한 것에 더해 코드를 더 이해하는 데 힘썼다.
지난 대회에서 MMdetection을 사용하여 일반적인 학습 구조로 짜본 지 좀 되었기 때문에 pytorch를 활용한 학습에 다시 익숙해지도록 노력해야겠다.

어제 Efficient-unet으로 학습했을 때 학습이 잘 안되는 현상이 생겨, 이게 단순 모델이 커서 학습 속도가 느려서 그런건지 아니면 모델 자체에 문제가 있어 학습이 안되는 건지 파악하기 위해 Epoch을 무진장 키워놓고 학습을 진행해보았다.
그 결과 best loss는 25 epoch 정도에 있었고, 이후론 overfitting 되는 경향을 보였으며, mIoU는 언제나 baseline보다 많이 낮게 나왔다.
이를 통해 사용한 efficient-unet 자체가 현재 task에 맞지 않는 것 같다는 생각이 들었다.

내일은 왜 사용한 efficient-unet이 학습을 제대로 못하는지 알기 위해 논문 등으로 구조를 분석해보거나, efficient-unet b0 모델을 써 파라미터를 낮추면 어떻게 되는지 확인해 봐야겠다.

0개의 댓글