MobileNet

배경

Standard Convolution 표준 합성곱은 계산량이 엄청 많다. 특히, 입력 채널수와 출력 채널수가 많은 경우 더더욱 많다. 표준 합성곱에서는 특징 추출(filtering features)와 combining(결합)이 반복되면서 이루어지게 된다.

이를 해결하기 위해 MobileNet은 Depthwise Separable Convolution을 사용한다.

Key Idea

Depthwise Convolution + Pointwise Convolution = Depthwise Separable Convolution

• 각 입력 채널마다 필터를 따로 적용한다.
  (m개의 입력 채널에 대해 각 각 1개의 필터를 사용한다.)
• 그 다음에 1*1 convolution을 사용하여 채널을 결합한다.

계산량을 비교해보면, 앞서 나온 표준 합성곱 계산량보다 훨씬 작은 것을 알 수 있다.

특징

연산량을 크게 줄이면서도 정확도 손실을 최소화한 구조를 가지고 있다. 따라서, 모바일, IoT 기기 등에서 효율적으로 작동이 가능하다.