합성곱 신경망(CNN)은 고차원 데이터를 효율적으로 처리하고, FCN(Fully Connected Network)의 연산량 및 오버피팅 문제를 해결하기 위해 등장한 구조입니다. 이미지 처리뿐 아니라 음성, 시계열 등 다양한 도메인에서 활용되고 있습니다.

📌 1. CNN의 필요성

기존 신경망의 한계

• 이미지처럼 고차원 데이터를 FCN에 입력하면 연산량이 폭증

• 모든 노드가 서로 연결되어 오버피팅 위험 증가

CNN의 해결책

• 변수 공유(Weight Sharing) : 하나의 필터를 여러 위치에서 재사용

• 희소 연결(Sparse Connectivity) : 입력 전체가 아니라 일부 영역만 연결 (로컬 특성 추출)

📌 2. CNN의 핵심 개념

수식으로 본 개념 확장

• 일반적인 뉴런 연산:

  $y = a(z + b)$

• CNN은 이를 2차원 구조로 확장하여, 필터를 통해 입력 데이터에서 특징을 추출:

• 입력 이미지 + 필터 = Feature Map

• 이 과정을 통해 특정 패턴(모서리, 선, 질감 등)을 감지

📌 3. CNN의 주요 구성 요소

🧩 1) Convolution Layer (합성곱 층)

• 필터(Kernel):
  $\Rarr$ 고정된 크기의 가중치 행렬
  $\Rarr$ 각 필터는 입력의 특징을 추출 (예: 경계, 모양)
  $\Rarr$ 여러 개의 필터 사용 $\rarr$ 여러 개의 채널 생성

• 필터 적용 조건:
  $\Rarr$ 입력 채널 수 = 필터 채널 수여야 함

• Padding:
  $\Rarr$ 이미지 경계 정보를 보존하고 축소 방지
  $\Rarr$ 일반적으로 same(크기 유지) or valid(크기 축소)

• Stride:
  $\Rarr$ 필터가 움직이는 간격
  $\Rarr$ 너무 크면 정보 손실, 너무 작으면 연산량 과다

🧩 2) Pooling Layer (풀링 층)

$\Rarr$ 특징 맵(feature map)을 압축하고 중요한 정보만 남기는 과정

• 가장 흔히 사용하는 방식 : MaxPooling

• 일반적으로 2x2 필터, stride=2

• 전체 크기를 절반으로 축소

• 비학습층: 파라미터 없음 → 연산만 수행

📌 4. CNN의 구조 설계

• CNN을 설계할 때 고려할 요소:
  $\Rarr$ 필터 크기 (보통 3x3, 5x5)
  $\Rarr$ Stride (보통 1)
  $\Rarr$ Padding (same or valid)
  $\Rarr$ 필터 개수 (채널 수 증가)

• 실질적인 구조 설계의 성능 영향은 논문이나 실험 결과를 참고해 최적화

📌 5. 전체 아키텍처 흐름

Input (이미지)
↓
[Conv → ReLU → Pool] × N
↓
Flatten
↓
Fully Connected Layer (FCN)
↓
Softmax or Logistic (분류)

• Conv + Pool을 하나의 Layer 단위로 보기도 함

• 마지막 단계에서는 채널 수는 많고, 이미지 크기는 작아진 feature map을 벡터 형태로 변환 후 분류기 연결

✅ CNN의 장점 요약

🎯 변수 공유 $\Rarr$ 같은 필터를 여러 위치에 사용하여 파라미터 수 감소
🎯 희소 연결 $\Rarr$ 입력 일부와만 연결되어 계산량 감소, 과적합 방지
🎯 지역 특징 인식 $\Rarr$ 공간 구조가 중요한 데이터에 최적화

🔚 마무리

CNN은 구조적으로 효율적이고, 이미지나 시계열과 같은 공간 정보가 중요한 데이터를 처리하는 데 있어 가장 널리 사용되는 신경망입니다.