profile
Welcome to my latent space!
post-thumbnail

[PR | 22-08] Emerging Properties in Self-Supervised Vision Transformers (DINO)

0. Abstract Self-supervised ViT features contain explicit information about the semantic segmentation of an image, which does not emerge as clearly w

2022년 8월 29일
·
0개의 댓글
·
post-thumbnail

[PR | 22-08] data2vec: A General Framework for Self-supervised Learning in Speech, Vision and Language

0. Abstract Self-supervised learning 의 일반적인 아이디어는 다양한 모달리티에 동일하게 적용될 수 있지만, 실제로 알고리즘과 objective 는 모달리티마다 달랐다. 그래서 본 논문에서는 Speech, NLP, CV 에서 같은 학습 방법

2022년 8월 29일
·
0개의 댓글
·
post-thumbnail

[PR | 22-07] Self-supervised Learning: Generative or Contrastive

Self supervised learning (SSL) 을 공부하기 앞서, 큰 그림을 보려고 survey 논문을 가볍게 스키밍했다.

2022년 8월 15일
·
0개의 댓글
·