태그 목록
- 전체보기(68)
- Paper(33)
- study(28)
- Graph(23)
- CS224W(17)
- 3D(14)
- 3D Geometry(10)
- Point Review(10)
- Object Detection(8)
- Scene graph(7)
- Generative Model(6)
- tracking(4)
- segmentation(4)
- Siam(2)
- transformer(2)
- graphics(1)
- 360(1)
- Calibration(1)
- Knowledge(1)
- Depth Estimation(1)
- View Synthesis(1)
- Tangent image(1)
- Room layout(1)
- NLP(1)
- NeRF(1)
- Panorama(1)
- Deformable(1)
- PBR(1)
- Recommendation(1)
- Representation(1)
- Classification(1)
- 중요 개념(1)
전체보기 (68)Paper(33)study(28)Graph(23)CS224W(17)3D(14)3D Geometry(10)Point Review(10)Object Detection(8)Scene graph(7)Generative Model(6)tracking(4)segmentation(4)Siam(2)transformer(2)graphics(1)360(1)Calibration(1)Knowledge(1)Depth Estimation(1)View Synthesis(1)Tangent image(1)Room layout(1)NLP(1)NeRF(1)Panorama(1)Deformable(1)PBR(1)Recommendation(1)Representation(1)Classification(1)중요 개념(1)
[논문 리뷰] Transformer: Attention Is All You Need
Seq2Seq 모델들은 Encoder의 정보들을 벡터화하여 손실되는 문제가 있어 Decoding 시 개별 토큰과의 관계 파악이 어려움또한, Sequence가 길어지는 경우 Gradient vanishing 문제 발생문제 해결을 위해 Attention value 도입인코
2021년 7월 28일
·
0개의 댓글