Resnet -2

Sukhun-Net·2024년 4월 17일

ResNet 사용 이유

✅레이어가 깊어지면 Vanishing gradient problem => Error 증가

이를 해결하기 위해 ResNet 사용

What is vanishing gradient problem?

Backpropagation 시 출력층에서 멀어질수록 (입력층에 가까워질수록) Gradient(기울기) 값이 매우 작아져 (0에 가까워져) 경사하강법을 이용할 수 없게 된다.

다시 말해, 가중치가 거의 변하지 않게 되면서 해당 가중치에 대한 학습이 이루어지지 않는다.

profile
Data Scientist (Computer Vision, Multimodal)

0개의 댓글