[딥러닝] GoogLeNet

Peter·2021년 7월 6일
0

딥러닝

목록 보기
15/47

NIN 구조

  • 기존 컨볼루션 연산(커널을 통한 연산)을 MLPConv 연산을 대체(비선형 함수를 활성함수로 포함하는 MLP 사용)
  • 신경망의 미소 신경망이 주어진 수용장의 특징 추상화
  • 전역 평균 풀링 사용

  • VGGNet의 완견 연결층은 1억2천2백만개 매개변수를 가짐
  • 많은 매개변수로 과잉적합 문제 발생
  • NIN은 분류해야할 개수만큼 특징맵을 생성하고 각 특징맵에서 평균을 내 출력 노드에 입력하는 방식 최소 매개변수0개

인셉션 모듈

  • 마이크로 네트워크로 MIpconv 대신 네 종류의 컨볼루션 연산 사용 -> 다양한 특징 추출
  • 1 * 1 컨볼루션을 사용해 차원 푹소
  • 3 * 3, 5 * 5같은 다양한 크기의 컨볼루션을 통해서 다양한 특징들을 추출

GoogLeNet

  • 매개변수 존재하는 22개층, 매개변수 없는 풀링층 5개 총 27개층으로 구성
  • 완전연결층은 분류기에 1개
  • 백만개 정도의 매개변수를 가지고 VGGNet의 1%
  • 각 층에 4개정도의 컨볼루션을 거쳐 결합됨

보조 분류기

  • 중간 분류를 추가 -> 그 값을 결과에서 활용하는 것이 아니라 깊은 신경망에서 발생하는 경사 소멸문제를 완화하기 위한 도우미 역할
profile
컴퓨터가 좋아

0개의 댓글