Part 4. Seq2Seq with Attention for Natural Language Understanding and Generation
Recurrent Neural Network(RNNs)
- RNN은 sequence data에 특화된 형태
- 동일한 파라미터를 가지는 function을 반복적으로 호출
- 특정 시점 t에서의 입력 xt가 있을 때 함수에선 현재 time step에서의 입력 신호와 그 이전 time step에서 동일한 RNN function이 계산했던 hidden state vector인 ht-1을 입력으로 받아서 현재 time step ht, current hidden state vector을 만들어주게 됨