지도 학습, 비지도 학습, 강화 학습 등 AI에 다양한 학습방법이 있다.
오늘 알아볼 주제는 지도 학습 중에서, Self-Supervised Learning, Semi-Supervised Learning, Active Learning에 대해서 알아보고자 한다.
1. Self-Supervised Learning
추후에 내가 하고 싶은 프로젝트로 Self-Supervised-Few-shot Segmentation 으로 주어진 라벨이 적은 상태로 Cross-attention과 Deeplabv3+ 백본을 사용하는 프로젝트이다.
Self-Supervised Learning(자기지도학습)
서두에서 언급한 프로젝트 명 처럼 자기지도학습은 레이블이 없는 데이터로 부터 학습하는 방법이다. 이 학습 방법은 주석이 필요하지 않으나, 데이터 내부 안에서 학습을 시작한다. 이미지에서 일부를 가리고 모델이 가려진 부분을 예측하는 방법과 이미지에서 레이블이 없는 객체를 인식하고 학습하는 것이 예시가 되겠다.
이처럼 자기지도학습은 지도학습과 비지도 학습의 중간쯤 위치한 방법이라 볼 수 있다. 지도 학습처럼 명확한 목표를 가지고 학습하지만, 레이블 및 주석이 없는 객체를 학습하는 비지도 학습의 모습도 가지고 있다. 지도 학습의 단점으로 레이블 공정 과정에 많은 비용 및 시간이 들어가는데 그 비용을 단축시킬수 있는 장점을 가지고 있어서 ,NLP 및 CV에서 자주 사용한다.
CV에서 Self-Supervised Learning 사례
- 활용 사례:
- Masking Images
Self-Supervised Learning(SSL)에서 마스킹된 이미지를 활용하는 방식은 주로 아래와 같이 이미지의 일부를 가리고, 나머지 부분을 기반으로 가려진 부분을 예측하도록 모델을 학습시키는 방법입니다. 이를 통해 모델은 이미지의 내재적 패턴과 구조를 학습합니다.
이 개념을 의료 분야에 적용하면, 세포 이미지에서 일부 세포가 가려져 있더라도 다른 세포들을 기반으로 가려진 세포를 복원하거나 예측하는 방식으로 SSL 학습이 가능합니다. 이는 레이블이 부족한 의료 데이터에서 매우 유용하게 활용될 수 있습니다.
- 의료 자료
의료 데이터와 같이 레이블이 부족한 데이터는 자기지도 학습(Self-supervised Learning)을 통해 보완할 수 있습니다. 의료 데이터는 종종 라벨링이 어려운 경우가 많고, 전문 지식이 필요해 비용이 많이 들기 때문입니다. 비지도 학습은 레이블이 없는 대량의 데이터를 기반으로 유의미한 패턴과 특징을 학습하여 데이터 간의 구조를 이해할 수 있게 돕습니다. 이를 통해 질병 진단, 이미지 분석, 의료 기록 분류 등에서 자동화된 라벨링을 가능하게 하여, 레이블링된 데이터의 부족을 보충하고 더 나은 예측 성능을 제공합니다.
자기지도 학습은 데이터에서 자연스럽게 발생하는 패턴을 탐색하여 의미 있는 클러스터나 잠재적 표현을 학습하고, 이를 바탕으로 의료 데이터의 분석 및 예측 능력을 크게 향상시킬 수 있습니다.
[기사 링크](https://m.dongascience.com/news.php?idx=55547)
- StyleGAN의 이미지 객체 자동 분류 및 자연스러운 합성
"Self-Supervised One-Shot Learning for Automatic
Segmentation of StyleGAN Images" 논문은 StyleGAN이 생성한 이미지는 라벨이 거의 없는 상태에서도 객체 분할을 자동으로 수행할 수 있는 방법을 제공합니다. Self-Supervised Learning과 One-Shot Learning을 결합한 방법을 제안합니다. 예를들어 StyleGAN으로 생성한 사람 얼굴 이미지에서 특징(귀, 눈, 입 등)을 분할하여 소량의 레이블 데이터로 자동으로 각 객체를 분할하게 학습할 수 있습니다. 이를통해서 StyleGAN을 통한 자연스러운 이미지 편집, 합성과 같은 다양한 응용 분야에 적용하는 사례가 있습니다.
https://arxiv.org/pdf/2303.05639