Be Your Own Teacher: Improve the Performance of Convolutional Neural Networks via Self Distillation

sherry·2025년 7월 9일
0

Self-Distillation이라는 매우 흥미로운 주제..

핵심은 deeper classifier를 teacher로 삼아서 쓴다 ㄷㄷ

각 layer마다 classifier를 달아버림,,

이 시기의 연구는 꽤나 멋있다

profile
sherry
Es muss sein!
이전 포스트

Bridging Language and Items for Retrieval and Recommendation

다음 포스트

Leveraging Large Language Models for Sequential Recommendation

0개의 댓글