LeNet
LeNet[1998,paper by LeCun et al.]
http://yann.lecun.com/exdb/publis/pdf/lecun-01a.pdf
1. Introduction
- LeNet은 약 20년전 제안된 최초의 Conovlution Nueral Network.
- 프랑스 출신 Tann LeCun이 1989년 "Barckpropagation applied to handwritten zip code recognition"논문을 통해 최초로 CNN을 사용하였음.
- 이후 1998년 LeNet이라는 Network를 소개하였으며, 우편번호와 수표의 필기체 인식을 위하여 개발.
2. C3 Layer
-
Input ) 6장의 14x14 Feature maps.
-
Conv.) 5x5 conovolution.
-
Output) 16장의 10x10 Feature maps.
-
6개의 입력 Feature maps으로부터 16개의 출력 Feature maps을 만든다. 이 때 6개의 입력 Feature maps은 아래 표와 같이 선택적으로 Convolution 연산을 거쳐 출력 Feature maps에 반영 된다. 이는 연산량의 크기를 줄일뿐만아니라, 연결의 symmetry를 깸으로써 처음 convolution으로부터 얻은 6개의 Low-level feature가 서로 다른 조합으로 섞이면서 Global feature로 만들기 위함이다.
3. F6 Layer
- 1x1 Feature maps 84개 생성(Fully-connected).
- 120개의 Feature map이 서로 섞여 84개로 생성됨.
4. Output Layer
- 최종적으로 10개의 Class로 구분.
- 10개의 Euclidean Radial Basis Function(RBF)유닛으로 구성.
5. Euclidean Radial Basis Function Network
- Hidden Layer 1개.
- 선형 출력 Layer -> 가중치 계산 용이.
- MLP보다 학습이 빠름(Hidden Layer가 1개니까 당연함).
- 유클리드 거리 측정 데이터를 기반으로 동작.
03.LeNet 참고자료
(1) https://blog.naver.com/laonple/220648539191
잘 못 작성된 내용이 있다면 댓글 부탁드립니다. 감사합니다.😊
