이미지 분류 DL 경진대회 회고

깃헙 주소

• 나는 내 학습목표를 달성하기 위해 무엇을 어떻게 했는가?

  • 최대한 많은 수의 실험제출을 하기 위해 노력하였고, 하고 싶었던 모든 것들을 다 올려서 확인해 보았다.
  • 체계적인 실험을 하기 위해서 Validation Set을 만드는 법에 대해 고민하며 공부하고 실험하였다.

• 전과 비교해서, 내가 새롭게 시도한 변화는 무엇이고, 어떤 효과가 있었는가?

  • 지난 번 ML 경진대회 때는 이론과 강의를 먼저 수강하고 baseline 코드 학습을 시작했지만, 이번에는 대회 관련 강의를 먼저 듣고 코드 학습을 바로 시작했다. 할 수 있는 모든 리더보드 제출을 해 보았다.
  • 빠르게 대회에 적응하고 점수 향상을 위해 가설수립, 실험, 채택의 과정을 겪을 수 있어서 조바심 없이 대회에 임할 수 있었다.

• 마주한 한계는 무엇이며, 아쉬웠던 점은 무엇인가?

  • 급하게 실험하고 리더보드에 점수 제출하는 데에만 치중하다보니, 막상 배워야 할 이론과 기본기들을 적용하지 못해서 아쉬웠다.
  • 대회적응과 기본개념 숙지를 잘 조화하면 좋을 것 같다.

• 한계/교훈을 바탕으로 다음 경진대회에서 시도해보고 싶은 점은 무엇인가?

  1. 초기 검증셋과 평가셋의 차이를 확인하기 위해 리더보드에 최대한 많은 제출을 시도한다
  2. 주먹구구식이 아닌 체계적이고 과학적인 실험을 진행하기 위하여, 검증셋을 평가셋과 동일하게 해 놓고, Epoch별 훈련, 검증셋의 정확도 추이를 그래프로 확인한다.
  3. 검증셋에서 점수가 낮은 부분을 분석을 통해서 재학습 방안을 적용한다.

• 나는 어떤 방식으로 모델을 개선했는가?

  • 프로젝트 초기 다들 많은 진전이 없을 때 다량의 리더보드 제출로 대회에 대한 감을 익히려 노력하였다.
    

  • 어떤 요인이 긍정적인 효과를 만들어내는지 원리를 알아내고자 노력하였다. A / B 테스트를 통하여 소통 없이 실험으로 답을 알아내는 법을 터특하였다.

    

  • 모델학습의 핵심이 되는 데이터 버저닝에 대한 체험을 할 수 있었다.(Garbage-in Garbage-out)
    

• 내가 해본 시도 중 어떠한 실패를 경험했는가? 실패의 과정에서 어떠한 교훈을 얻었는가?
  • 프로젝트 여러번 해보는 것도 중요하지만 가장 기본적인 원리를 깨닫고 적용하는 것이 필요하다.
    • 예: 검증셋 정교하게 적용, Early Stopping, 하이퍼파라미터 기록 및 찾기(Optuna, WanDB)
• 개발문화, 협업방식 관련 회고
  • 너무 강하게 압박하는 것과 완전 방치하는 것의 중간단계가 좋다.
  • 지난 번 프로젝트는 하루에 2번씩 만나면서 긴장감을 계속 유지하다보니 힘들었다
  • 이번에는 각자 작업하다가 잠깐씩 만나서 서로 공유하니 개인적 상황에 최적화 할 수 있으면서도, 전체적인 조율을 잊지 않았다
  • 개인적으로는 개인의 능력을 최대한 끌어내면 조직을 위해서도 사용하고 개인의 발전을 위해서도 좋은 접근으로 보인다.
  • 통제와 관리보다는 자율과 존중과 배려가 좋다.
  • 또한 개발자는 생산직이기에 아이디어와 행정보다는 동작하는 제품이 제일이다. 개발(생산)하는데 열과 성을 다해야 한다.