주요 개념

• LSTM 셀: 타임스텝이 긴 데이터를 효과적으로 학습하기 위해 고안된 순환층, '입력 게이트, 삭제 게이트, 출력 게이트' 역할을 하는 작은셀이 포함되어 있음

• LSTM 셀은 은닉 상태(Hidden state) 외에 셀 상태를 출력함, 셀 상태는 다음 층으로 전달되지 않으며 현재 셀에서만 순환됨

• GRU 셀: LSTM 셀의 간소화 버전이지만, 못지않은 성능을 냄

LSTM 신경망 훈련하기

• 순환층에 드롭아웃 적용하기

• 2개의 층 연결하기

GRU 신경망 훈련하기

colab 링크: https://colab.research.google.com/drive/1VlVyHpecnu5AslP6-ooUx6YbZECtTcuB?usp=sharing

참고: 혼자 공부하는 머신러닝+딥러닝