학습 중인 신경망에 과적합이 발생했다면 신경망의 표현력을 감소시켜야 한다. 가장 먼저 시도 할 수 있는 방법은 규제화이다.
- 오차 함수에 규제화항을 추가하는 것이다.
- 은닉층 유닛의 가중치가 0에 가까워지고 모델의 표현력을 감소시키는 데 도움이 된다.
- 가중치를 0을 향해 감소시키기에 가중치 감쇠라고 한다.
- 학습 데이터를 추가한다.
- 이미지 반전, 회전, 배율 조정, 밝기 조절등 다양한 변환 방법을 데이터 강화에 사요할 수 있다.
[참고자료]
https://www.hanbit.co.kr/store/books/look.php?p_code=B6566099029