[ML] 딥러닝의 깊이 있는 이해를 위한 머신러닝 11-2 (K-MOOC)

학습내용

• Semi-supervision 이란 무엇일까?

• 대표적인 Semi-supervision 방법론은 무엇이 있을까?

학습목표

• Semi-supervision 의 개념을 이해할 수 있다.

• Semi-supervision 의 다양한 방법론을 이해할 수 있다.

Semi-supervision

• 세미 슈퍼비전

  • 슈퍼바이즈드 러닝과 언슈퍼바이즈드 러닝이 약간 믹싱되어 있는 형태

  • 라벨이 달려 있지 않은 데이터를 세미 슈퍼비전에서 효율적으로 활용할 수만 있다면 사용되는 데이터의 양이 엄청나게 커지는 효과를 누릴 수 있게 됨

  • 세미 슈퍼비전은 전체 데이터 중에 일부의 데이터에 대해서만 라벨이 달려 있는 상황을 가정

  • "Semi-Supervised Deep Learning for Monocular Depth Map Prediction", CVPR2017

    • 각 픽셀마다 물체에 반사된 레이저를 활용하여 거리를 측정

    • 이때 모든 픽셀에 대해서 거리를 구할 수는 없을 것입니다.

    • 일부분에 대응되는 조그만 데이터만을 활용해서 전체 픽셀들, 라벨이 달려 있지 않은 픽셀들도 모두 고려한 머신러닝 기법 적용

    • 라벨이 달려 있지 않은 픽셀들에 대한 정보

      • 근처에 있는 픽셀들의 값과 유사하다는 가정

  • 영상 물체 추적 (Visual Tracking)

    • 어떤 영상이 제공되고 제일 첫 프레임에 우리가 추적하고자 하는 물체를 지정

      • 해당 물체를 영상에서 추적

    • 활용할 수 있는 정보: 첫 프레임에 선택된 정확하게 라벨이 제공된 영역

    • 드리프트 문제: 정확하게 물체를 추적하지 못하고 조금씩 다른 물체를 추적하는 경우

    • "Context-aware Deep Feature Compression for High-speed Visual Tracking", CVPR2018

      • 추적하고자 하는 물체의 성질 자체는 바뀌지 않음

      • 첫번째 프레임은 추적 물체의 성질을 가장 정확하게 제공

  • 도메인 어댑테이션 (Domain Adaptation)

    • 첫 번째 데이터셋: 소스 도메인

      • 데이터와 라벨 모두 제공

      • 예: 가상 환경에서 얻은 데이터

    • 두 번째 데이터셋: 타겟 도메인

      • 라벨이 없음

      • 예: 실제 환경에서 얻은 데이터

      • 라벨이 없지만 성능을 높이고 싶은 데이터

    • "Visual Domain Adaptation by Consensus-based Transfer to Intermediate Domain", AAAI2020

      • 소스 도메인과 타겟 도메인의 차이를 줄일 수 있는 방법을 찾아나가는 알고리즘 제안