원본 논문 링크

• 분약 : Image Restoration
• 한 줄 요약 : 비선형 활성화 함수 없이도 높은 성능을 유지하는 NAFNet(Nonlinear Activation Free Network)을 제안하여, SOTA 대비 더 나은 성능과 높은 연산 효율을 달성한 이미지 복원 기법을 개발함.

Abstract

• 기존과 다른 SOTA 방법들보다 뛰어나고 계산 효율적인 단순한 baseline을 제안함.
• baseline을 더 단순하기 위해, the nonlinear activation functions (Sigmoid, ReLU, GELU, Softmax 등)을 사용하지 않았다 : 이것은 multiplication로 대체하거나 제거하였다.
• baseline으로 부터 NAFet(a Nonlinear Activation Free Network)를 유도하였다.
• SOTA 결과들은 다양한 benchmarks에서 달성하였다.
  : GoPro (image deblurring and denoising).
• code 제공 : github.com/megvii-research/NAFNet.

2 Related Works

3 Build A Simple Baseline

4 Nonlinear Activation Free Network

5 Experiments

6 Conclusions

• SOTA 방법들을 분리하여 a naive PlainNet에서 필수적인 요소를 추출함.
• baseline은 image denoising and image deblurring tasks의 SOTA에 도달함.
• the nonlinear activation functions을 완전히 대체하거나 삭제하여 더 간단하게 할 수 있다는 것을 보였다 : NAFNet(a nonlinear activation free network).
• nonlinear activation functions는 SOTA 성능을 달성하는 필 수 적임이 아님을 보였다.