lec 10-4

Contents

• Fast forward
• Convolutional Neural network (CNN, 합성곱 신경망)
• Recurrent Neural Network (RNN, 순환 신경망)

ㅤ

ㅤ

ㅤ

Neural Network은 마치 레고 놀이와 같다.
필요한 만큼 블록을 가져다 꽂기만 하면 된다. 이런 방식을 feedforward neural network이라고 부른다.
Feedforward neural network는 입력이 주어지면 그것을 레고처럼 계속 쌓아 결과를 도출한다.

Network는 다양한 구조를 만들 수 있다.
오늘은 다양한 Neural Network 모듈에 대해 알아볼 것이다.

ㅤ

ㅤ

ㅤ

ㅤ

1. Fast forward

He가 고안해낸 neural network로 ImageNet에 3% 이하의 에러율을 보인 놀라운 작품.

앞쪽으로 이동할 때 하나의 레이어가 아닌 2개 혹은 여러개의 레이어를 이동 이동하는 방법으로,
앞에서 배운 Dropout이나 Ensemble과 같이 난수를 사용하여 반복할 때마다 다른 결과를 얻고, 전체적으로 균형이 잡혀있다.

ㅤ

ㅤ

ㅤ

ㅤ

2. Convolutional Neural network (CNN, 합성곱 신경망)

CNN(Convolutional Neural Network, 합성곱 신경망)은 주로 이미지 인식에 사용되는 Deep Neural Network이다.

전체를 한번에 보는 것이 아니라 부분부분 보고 합치는 구조이다. (Split, Merge)
CNN은 MNIST모델을 구축한 Neural Network로 99.2%의 정확도를 보인다.

ㅤ

ㅤ

ㅤ

ㅤ

3. Recurrent Neural Network (RNN, 순환 신경망)

음성, 문자 등 순차적으로 등장하는 데이터 처리에 적합한 모델이다.
한 방향으로 진행하는 네트워크를 옆으로 진행해 순환 구조를 이룬다.