# Vision Transformers

3개의 포스트
post-thumbnail

GOING Deeper with Image Transformers

CNN이 압도적으로 사용되던, 대용량 데이터셋에서의 이미지 분류 태스크에 **'transformer'**가 도입되었습니다. vision transformer를 최적화하는 것에 대한 연구는 아직 많이 진척되지 않은 상황. 따라서, 연구팀은 deeper transform

2022년 5월 7일
·
0개의 댓글
·
post-thumbnail

Emerging Properties in Self-Supervised Vision[.,2021] Transformers

Summary Self attention from a VIT with 8 $\times$ 8 patches trained with no supervision 본 연구에서는 Vision Transformer(VIT)의 feature를 self-supervised-le

2021년 12월 28일
·
0개의 댓글
·
post-thumbnail

Vision Transformers

DETR 이후 'vision transformer'들 곰국 모음

2020년 12월 22일
·
0개의 댓글
·