이 Series에 대한 설명

Hyungseop Lee·2024년 4월 1일

RISE

4학년 1학기 RISE라는 과목을 수강하고 있는데
RISE는 학부연구생을 위해 한학기 동안 짧은 연구를 진행하는 수업이다.


연구주제

나의 연구 주제는 object detection task를 위한 efficient CNN을 개발하는 것.
요즘 AI model들의 덩치가 커지고 있다.
(parameter 개수와 필요한 HW(GPU)의 금전적 덩치도...)
그래서 on-device에도 잘 동작할 수 있도록 좋은 성능을 유지하면서 model size를 줄이는 "efficient model"을 개발하는 것을 연구 방향으로 잡았다.


Model 선택

짧은 연구 기간 동안 연구에 집중하기 위해서
코드 접근성이 쉽고 관리가 잘 되어 있는 PyTorch의 reference model을 선택하기로 했다.
바로, RetinaNet이다.

RetinaNet의 backbone은 ResNet FPN인데,
지도 교수님의 Adaptive depth network 논문의 아이디어를 RetinaNet backbone에 적용해서
RetinaNet의 detection task에서도 efficient한 모습을 보일지 실험해보기로 했다.

그래서 최종적으로 나의 RISE 연구에 key가 되는 논문들은 이러하다

  • ResNet
  • FPN
  • ADN with skippable sub-paths
  • RetinaNet

Key Papers

ResNet

예전에 ResNet paper에 대해서 review했던 글

FPN (Feature Pyramid Network)

예전에 FPN paper에 대해서 review했던 글

ADN with skippable sub-paths (Adaptive Depth Network)

예전에 ADN paper에 대해서 review했던 글

RetinaNet

예전에 RetinaNet paper에 대해서 review했던 글


Newly Customized RetinaNet

  • RetinaNet with resnet50_adn_fpn backbone
    다음 글에서 설명할 내용입니다.
  • 결과 스포
profile
Efficient Deep Learning

0개의 댓글