컨볼루션 신경망(Convolutional Neural Network, CNN)

동물의 시각피질에서 이루어지는 계층적인 정보처리과정을 모방해서 만든 것
-> 점차 추상적인 특징이 추출되고 합쳐저 구체적인 결과로 인식

• 전반부: 컨볼루션 연산을 수행하여 특징 추출
• 후반부: 특징을 이용하여 분류
• 영상분류, 문자 인식 등 인식문제에 높은 성능

컨볼루션

일정 영역의 값들에 대해 가중치를 적용하여 하나의 값을 만드는 연산

스트라이드

커널을 다음 컨볼루션 연산을 위해 이동시키는 칸 수

패딩

컨볼루션 결과의 크기를 조정하기 위해 입력 배열의 둘레를 확장하고 0으로 채우는 연산

컬러 영상의 컨볼루션

컬러 영상의 다차원 행렬 표현

특징지도

• 컨볼루션 필터의 적용결과로 만들어지는 2차원 행렬(N차원배열)
• 특징지도의 원소값
  • 컨볼루션 핉터에 표현된 특징을 대응되는 위치에 포함하고 있는 정도
• k개의 컨볼루션 필터를 적용하면 k의 2차원 특징지도 생성

풀링

일정 크기의 블록을 통합하여 하나의 대푯값으로 대체하는 연산

• 최대값 풀링
  • 지정된 블록 내의 원소들 중에서 최대값을 대푯값으로 선택
• 평균값 풀링
  • 블록 내의 원소들의 평균값을 대푯값으로 사용
• 확률적 풀링
  • 블록 내의 각 원소가 원소값의 크기에 비례하는 선택 확률을 갖도록 하고, 이 확률에 따라 원소 하나를 선택
• 역할
  • 중간 연산 과정에서 만들어지는 특징지도들의 크기 축소
    • 다음 단계에서 사용될 메모리 크기와 계산량 감소
  • 일정 영역 내에 나타나는 특징들을 결합하거나, 위치 변화에 강건한 특징 선택