들어가며
오늘날, 컴퓨터 비전 기술을 활용해 실생활에 적용하는 다양한 사례들이 존재한다.
그런 반면, 오늘 소개할 내용은 컴퓨터 비전 기술을 회피하려는 시도이다.
메릴랜드 대학에서 진행된 해당 연구는 Object Detector의 취약점을 테스트하려는 연구로, Object Detector가 물체를 인식하는 것을 방해하는 패턴을 발견했다.
위 사진은 그 결과로, 이미지에서 사람을 찾는 Object Detector 모델에서 중앙의 특정 패턴이 존재하는 옷을 입은 사람은 검출하지 못하는 것을 볼 수 있다.
연구
해당 연구는 이미지의 일부분을 가지고 객체를 탐지하는 Two-Stage Detector 방식이 아닌, 이미지 전체에서 객체를 탐지하는 One-Stage Detector 방식에 초점을 맞추고 진행되었다.
One-Stage Detector는 이미지 내에서 수 천 개의 우선 순위, 즉 잠재적 객체 후보를 두고 객체를 탐지한다. 그렇기 때문에 이러한 One-Stage Detector에 대한 취약점을 찾는 것은 모든 잠재적 객체 후보를 속여야 하기 때문에 Two-Stage Detector를 속이는 것 보다 훨씬 어려운 과정이라고 설명한다.
해당 연구의 진행 과정은 다음과 같다.
- YOLOv2 모델에 훈련된 COCO 데이터셋을 활용, 사람을 탐지한다.
- 탐지된 사람 위에 무작위 관점, 밝기 및 대비 변형을 주어 렌더링한다.
- 이후 경사하강법을 통해 모든 객체에 대해 Objectness Scores (객체성 점수, 객체 존재에 대한 확신 점수)를 최소화하는 특정 패턴을 찾는다.
그 결과로, 이와 같이 Object Detector 모델에 감지되지 않는, 해당 패턴이 그려진 옷이 Object Detector로부터 “투명 망토”를 만들어 낸 것이다.
마치며
해당 패턴은, 실제 착용 테스트에서 약 50%의 성공률 (감지되지 않는 확률)을 보였다고 한다.
100% 모델을 속일 수 있는 것은 아니지만, Object Detector 로 부터 탐지되지 않을 가능성을 보여준다는 점에서 의의가 있다.
