Range loss

한줄요약 : 나쁜 long tail distribution을 물리치자

object detection에선 long tailed distribution을 피하기 위해 각 class의 instance들을 최대한 일정하게 맞추려 함.

long tail 이란 제한된 수의 class만 자주 나타나는 상태를 말함.

위와 같이 왼쪽 class는 data의 개수가 많지만, 오른쪽으로 갈수록 data의 개수가 적어지니, 왼쪽 class의 사람만 자주 나타날 수 있을것임.

dataset에 이런식으로 long tail distribution 현상이 있다면, 모델을 학습시키더라도 좋은 성능을 얻기 힘듬.

암튼 그래서 우리는 range loss 라고 불리는 새로운 loss function을 제안함

이 range loss 는 class 간 imbalance 한 data를 학습시킬때 좋음.

이 loss function은 sample pairs 사이 유클리드 거리의 최대값을 이 클래스의 범위로 식별함.

훈련동안에는 이 범위를 minimize 하며, 이 범위를 다시 계산하는 것이 목표임.

face recognition은 다른 recognition task와 비교했을때, inter class variation이 더 적음.

예를들어 사람 수를 늘리게 된다면, 비슷한 얼굴을 가진 두명이 들어갈 수 있음. (inter class variation이 작아짐.)

또, class당 image가 적어지면 좋은 성능을 가질 수 없음.