BPTT, TBPTT

김명섭·2024년 8월 19일


BPTT(BackPropagation Trough Time)은 RNN 계열에서 time step에 대한 역전파를 하는 것이다.


TBPTT(Truncated BackPropagation Trough Time)은 너무 긴 데이터에 대해 맨 앞까지 전부 역전파를 하는 것이 힘드므로 구간을 나눠 역전파를 하는 것이다.

http://solarisailab.com/archives/1451

https://toyourlight.tistory.com/73

https://velog.io/@leesungjoon-net/DeepLearning%EC%9A%94%EC%99%80DeepARUpdated#22-truncated-back-propagation-through-timetbptt

profile
ML Engineer

0개의 댓글