NIN 구조
- 기존 컨볼루션 연산(커널을 통한 연산)을 MLPConv 연산을 대체(비선형 함수를 활성함수로 포함하는 MLP 사용)
- 신경망의 미소 신경망이 주어진 수용장의 특징 추상화
- 전역 평균 풀링 사용
- VGGNet의 완견 연결층은 1억2천2백만개 매개변수를 가짐
- 많은 매개변수로 과잉적합 문제 발생
- NIN은 분류해야할 개수만큼 특징맵을 생성하고 각 특징맵에서 평균을 내 출력 노드에 입력하는 방식 최소 매개변수0개
인셉션 모듈
- 마이크로 네트워크로 MIpconv 대신 네 종류의 컨볼루션 연산 사용 -> 다양한 특징 추출
- 1 * 1 컨볼루션을 사용해 차원 푹소
- 3 * 3, 5 * 5같은 다양한 크기의 컨볼루션을 통해서 다양한 특징들을 추출
GoogLeNet
- 매개변수 존재하는 22개층, 매개변수 없는 풀링층 5개 총 27개층으로 구성
- 완전연결층은 분류기에 1개
- 백만개 정도의 매개변수를 가지고 VGGNet의 1%
- 각 층에 4개정도의 컨볼루션을 거쳐 결합됨
보조 분류기
- 중간 분류를 추가 -> 그 값을 결과에서 활용하는 것이 아니라 깊은 신경망에서 발생하는 경사 소멸문제를 완화하기 위한 도우미 역할
컴퓨터가 좋아