지도학습은 라벨이 있는 데이터로만 학습할 수 있는 반면, 자기지도학습(SSL)은 비라벨 데이터로부터 학습할 수 있다는 강점이 있다.
SSL은 막대한 양의 데이터셋과 고용량 메모리를 갖춘 GPU 덕분에 2020년 이후로 급격한 발전을 이루었다. 그러나 그 기원은 딥러닝의 초창기로 거슬러 올라간다. 현대적인 방법론은 초기의 실험에서 얻은 지식을 기반으로 만들어졌다. 이 섹션에서 우리는 2020년 이전의

딥 메트릭 러닝(Deep Metric Learning, DML) 기법은 입력 데이터를 의미적으로 변환한 버전들 간의 유사성을 증진하는 원칙에 기반한다. DML은 contrastive loss 개념에서 출발했으며, 이를 학습 목표로 변환한 것이다. Contrastive