[NLP] LSTM(Long Short Term Memory)

각 시점에 최적화 되어있는 벡터를 두가지를 만든다.

Forget Gate (망각게이트)

Input Gate

Cell State(Update)

Output Gate

LSTM parameters

Affine 변환묶기

** 4개의 웨이트가 나오기 때문에 RNN 웨이트 계산보다 4배나 더 많게 나온다