NLP
1.RNN ~ Transformer - (1) RNN
이번 글은 Recurrent Neural Network (RNN)부터 Sequence 2 Sequence (Seq2Seq), Attention, Transformer까지의 전반적인 이론과 각 모델의 등장배경을 다뤄볼 예정이다.최근에 멀티모달 관련 task를 맡아서 수행
2025년 6월 15일
2.RNN ~ Transformer - (2) Seq2Seq, Attention
Seq2Seq
2025년 6월 20일
3.RNN ~ Transformer - (3) Transformer
Transformer 논문의 제목은 'Attention is all you need'이다. 제목에서 알 수 있듯, Transformer는 RNN의 고질적인 문제(기울기 소실, 정보 손실)를 지적하며 기존의 Seq2Seq의 인코더-디코더 구조와 Attention 이론을
2025년 6월 23일