Overfitting과 L1, L2 규제

Minsu Kang·2025년 4월 30일

훨씬 잘 정리한 블로그 : https://seongyun-dev.tistory.com/52


우선 L1과 L2가 뭔지 정리


L1은 Ridge, L2는 Lasso 라고 불림. 위를 Loss Function에 적용해서 Regression해서 Ridge- 또는 Lasso-Regression이라고 한대.


Cost Function도 변하고 미분 시 모습도 바뀜. 미분 시 모습에서 Weights에 따라 뒤 오차항이 어떻게 바뀌는 지 볼 수 있음.

추가설명

L2는 왜 특정 Weight에 집중? 한 가지 path만 존재하는 것과 관련성은?

profile
안녕하세요! 강민수입니다.

0개의 댓글