Ablation Study는 무엇인가?
Ablatation이란 제거, 절제라는 뜻을 가진 단어다!
Ablation Study는 모델이 작동하는 여러 기능들이 있다고 할 때, 그 기능들을 제거했을 때와 제거하지 않았을 때를 비교해 그 제거 또는 제거 되지 않았을 때 그 요소가 모델에 미치는 영향을 증명하는 연구다.
예를 들어, 이 모델의 성능에 영향을 얼마나 미치는 지 알기 위해 모델의 요소 중에 하나를 제거한 상태에서 실험을 해 영향의 크기를 평가하는 것이다.
더 구체적으로 생각해보면, 모델의 output 길이를 길게 생성하게 하는 것이 성능에 영향을 미치는 지 알아보기 위해 길게 했을 때와 짧게 했을 때의 성능을 비교해보는 것이다.
👩💻초보 researcher