(2강) 대회 및 데이터셋 소개

newbie·2021년 11월 22일

강의 소개

모델 최적화 대회를 소개합니다.
데이터의 Capacity 에 맞는 모델 크기의 중요성과 효율성에 초점을 맞추어 높은 효율의 모델을 찾아내는 것이 목적입니다.

Classification task 로 진행되고, F1 Score 와 모델의 실제 inference 속도를 대회 Metric 으로 책정하기 때문에, F1 score를 적게 떨어뜨리면서 inference 속도를 높이는 것이 핵심입니다!

모델 효율성을 높이기 위해 AutoML & 다양한 경량화 기법들을 이용해서 기준 성능을 넘겨주세요!
팀별 랭킹이 없는 대회이기 때문에 부담이 훨씬 덜 하실 것이라 생각됩니다.

자세한 내용은 강의를 참조해주세요!

Further Reading


경량화 평가 요소

  • 경량화의 다양한 관점
    • 모델 크기(=파라미터 수)
    • 속도
    • 연산횟수(MACs(==0.5FLOPs))
      • MACs(Multiple-ACcumulate) : a*x+b를 하나의 연산(operation)으로 처리하고 이 연산이 몇 번 실행되는지
      • FLOPs(Floating point OPerationsS) : 덧셈, 곱셈을 하나 하나의 연산으로 보기 때문에 일반적으로 MACs = 0.5FLOPs가 됨, 실제 계산량
      • FLOPS(FLOPs per Second, flop/s) : 초당 계산량
profile
DL, NLP Engineer to be....

0개의 댓글