SSL
1.[PR | 22-07] Self-supervised Learning: Generative or Contrastive
Self supervised learning (SSL) 을 공부하기 앞서, 큰 그림을 보려고 survey 논문을 가볍게 스키밍했다.
2022년 8월 15일
2.[PR | 22-08] data2vec: A General Framework for Self-supervised Learning in Speech, Vision and Language
0. Abstract Self-supervised learning 의 일반적인 아이디어는 다양한 모달리티에 동일하게 적용될 수 있지만, 실제로 알고리즘과 objective 는 모달리티마다 달랐다. 그래서 본 논문에서는 Speech, NLP, CV 에서 같은 학습 방법
2022년 8월 29일
3.[PR | 22-08] Emerging Properties in Self-Supervised Vision Transformers (DINO)
0. Abstract Self-supervised ViT features contain explicit information about the semantic segmentation of an image, which does not emerge as clearly w
2022년 8월 29일