22.02.14 회고

김영태·2022년 2월 14일

Noisy channel model : 소리메시지를 전달할때 소음이 섞여 변형되기 떄문에 소음을 걷어내고 메시지를 알아내는 것.

Noisy channel model = encoder - decoder model이라고도 함.

번역을 할 때 source language는 encoder rnn에, target language는 decoder rnn에 들어감.

번역시 decoder rnn에서 encoder rnn의 마지막 hidden state 참고

*encoder의 hidden state에는 모든 입력값이 저장되어있으므로, decoder는 결국 모든 입력 문장을 고려하는 것

출처 : https://jiho-ml.com/weekly-nlp-21/

0개의 댓글