📱 MobileNetV4 완전 분석: 논문 기반 + 초보자 친화 + 실제 적용 정리

📄 논문 링크: MobileNetV4: Universal Models for the Mobile Ecosystem (2024)

---

🔍 MobileNetV4란?

MobileNetV4는 모바일/엣지 디바이스에서 실시간 추론이 가능한 경량 고성능 CNN 모델입니다. NAS를 활용해 구조를 자동 설계하고, UIB 블록, MQA, Hard-Swish, ConvNeXt 스타일 FFN 등 다양한 기술을 결합해 정확도와 속도, 경량성을 모두 달성했습니다.

---

🔧 핵심 기술 + MobileNetV4에서의 실제 활용

✅ 1. UIB (Universal Inverted Bottleneck) 블록

• 기존 Inverted Bottleneck 구조를 일반화한 블록으로, 다음 4가지 구조 조합 중 NAS로 선택됩니다:
  1. Extra Depthwise Conv
  2. ConvNeXt 스타일 FFN
  3. Inverted Bottleneck (MobileNetV2)
  4. 기본 FFN

MobileNetV4에서 어떻게 쓰였나?

• NAS가 각 레이어마다 최적의 UIB 변형을 자동 탐색
• 모델의 크기와 정확도를 조절할 수 있도록 다양한 조합 구성 가능
• 구조 다양성 확보로 하드웨어 별 최적화 가능

---

✅ 2. MQA (Mobile-Friendly Query Attention)

• 기존 Multi-Head Attention의 계산량을 줄이기 위한 경량 attention 구조

MobileNetV4에서 어떻게 쓰였나?

• Query는 다중 헤드 사용, Key/Value는 공유 → 연산량 감소
• 모든 블록에 사용하지 않고, 일부 UIB에만 선택적으로 적용
• Edge TPU 기준 최대 39% latency 감소를 기록함

---

✅ 3. Swish vs Hard-Swish

항목	Swish	Hard-Swish
수식	$x \cdot \sigma(x)$	$x \cdot \frac{\text{ReLU6}(x + 3)}{6}$
속도	느림 (Sigmoid 포함)	빠름 (ReLU 기반)
성능	정확도 높음	근접한 성능
모바일 적합성	❌ 낮음	✅ 높음

MobileNetV4에서 어떻게 쓰였나?

• 모델 전체에 Hard-Swish 사용
• Swish보다 빠르고 가볍기 때문에 모바일 디바이스 최적

---

✅ 4. Depthwise Convolution

• 각 채널별로 합성곱을 수행해 연산량을 크게 줄이는 방식

MobileNetV4에서 어떻게 쓰였나?

• 모든 UIB 블록에서 Depthwise Separable Conv 기반 구조 사용
• ConvNeXt FFN에서도 사용됨 → 파라미터 절감 + 성능 유지

---

✅ 5. ConvNeXt 스타일 FFN

• 구조: 7x7 Depthwise + GELU + 1x1 Conv

MobileNetV4에서 어떻게 쓰였나?

• UIB 내에서 FFN 블록으로 선택될 경우 ConvNeXt 구조 기반 FFN 사용
• ViT의 MLP 표현력을 CNN으로 흉내 낸 구조로 성능 향상 기여

---

✅ 6. SE (Squeeze-and-Excitation)

• 채널 중요도를 학습해 강조할 특징에 가중치를 줌

MobileNetV4에서 어떻게 쓰였나?

• UIB 블록에 선택적으로 삽입
• MQA와 함께 사용될 경우 피처 강조 효과 극대화

---

✅ 7. NAS (Neural Architecture Search)

MobileNetV4에서 어떻게 쓰였나?

• 기존보다 범용적인 탐색 공간 설정
• 각 레이어마다 UIB 변형을 자동 선택
• 모델 크기(M, L, XL) 도 NAS로 조정됨

---

✅ 8. Real-time Prediction & Edge Device 최적화

MobileNetV4에서 어떻게 쓰였나?

• 구조가 매우 경량 + latency 최소화 설계
• MQA, Hard-Swish, DepthwiseConv 조합으로 실시간 예측 구현
• 다양한 Edge 가속기 환경 (TPU, GPU, DSP) 테스트 기반 최적화

---

🧱 전체 구조 예시

---

📊 성능 비교 (논문 기준)

모델	Top-1 정확도 (%)	MACs (M)	Latency (ms)
MobileNetV3-Large	75.2	219	8.2
EfficientNet-lite0	76.8	390	15.4
MobileNetV4-M	78.1	205	6.7

✔️ 정확도, 연산량, 속도 모두 업그레이드

---

✅ 요약

구성요소	MobileNetV4에서의 적용 방식
UIB	NAS 기반 다양한 연산 구조 자동 선택
MQA	선택적 attention 적용으로 정확도 향상
Hard-Swish	전체 활성화 함수로 사용, 경량화
DepthwiseConv	모든 주요 연산에 활용, 연산량 절감
SE	피처 강조를 위한 attention 모듈
ConvNeXt FFN	표현력 강화를 위한 채널 간 FFN
NAS	구조 자동 탐색 및 최적화
Edge 최적화	실시간 추론, 낮은 latency 설계 목표

---