Annotation data efiicient learning

Data augmentation

1. Learning representation of dataset

• Neural net은 data를 컴퓨터가 이해할 수 있는 형태로 녹여내는, 압축 하는 형태임
• 카메라로 찍은 data는 bias 되어있어서 real data와 같다고 보장할 수 없음
• data augmentation의 목표는 train data 분포를 real data 분포와 비슷하게 만드는것

Data augmentation 종류

• Brightness adjustment
• Rotate
• Flip
• Crop
• Affine transformation
• Cutmix
• RandAugment
  

Leveraging pre-trained information

• 기존에 학습해 놓은 네트워크를 이용해서 새로운 비슷한 task의 네트워크를 학습하여 학습을 효율적으로함

transfer learning

1. conv weight는 fix하고 fcn만 학습
2. conv는 low learning rate, fcn은 high learning rate를 사용할 수 있음

Knowledge distillation

Leveraging unlabeled dataset for training

• self-supervised learning