오늘 공유드릴 논문은
Learning to Augment Distributions for Out-of-distribution detection
https://openreview.net/pdf?id=OtU6VvXJue
이라는 논문으로 NeurIPS 2023에서 발표된 논문입니다.
OODD task에서 항상 문제가 되는 것은 unseen data의 부재입니다. 이 논문에서는 특히 Auxiliary OOD data를 가지고 있는 상황에서 Auximilary OOD data 와 unseen real ood와의 distribution discrepancy 를 줄이는 것으로 문제를 해결하고자 합니다.
일반적인 outlier exposure의 경우 ID 데이터에 대해서는 classification confidence가 높고, oulier의 경우 낮은 confidence를 내뱉도록 학습을 진행하는데요. 한마디로 OOD data에 대해서 OOD score의 confidence가 낮도록 학습을 진행하여, 이 차이를 통해 OODD를 수행합니다. 그런데, 만약 Auxiliary ood data가 Real OOD Data와 멀게 될 경우 real detection effectiveness(실제 OOD를 탐지하는 성능)이 하락할 수 밖에 없습니다(당연히 Real OOD data에 대한 confidence를 낮추는 작용이 적어질 것임). 이는 자연스럽게 발생하는 문제이기 때문에, 어떻게 이런 실제 OOD와의 distribution discrepancy를 줄일 수 있을까 ? 에 대한 물음에 논문은 다음의 방법으로 문제를 해결합니다.
Real OOD와 Auxiliary OOD data 사이의 distribution discrepancy를 줄이는 방법으로 효과적인 learning framework (Distributional Augmented OOD Learning (DAL))를 제안합니다.