[딥러닝] 성능향상(규제-조기 멈춤)

Peter·2021년 7월 7일
0

딥러닝

목록 보기
27/47
post-custom-banner

과잉적합 문제

  • 훈련이 오랜 시간이 지나면 훈련집합에선 오류율이 내려가지만 검증집합에선 오류율이 올라감
  • 과잉적합 문제 발생

조기멈춤

  • 검증집합의 오류가 최저인 점에서 학습을 멈춤
  • 하지만 상황에 따라 오류율이 벌어졌다가 다시 좁혀지는 현상이 발생하는데 이 부분을 해결하지 못함

설익은 수렴

  • 일단 사이가 벌어지는 지점에서 한번 기억을 하고
  • epoch 만큼 진행을 계속 시켜서 더 최저점이 나오면 그 지점을 갱신 아니면 전에 기억했던 상황으로 학습을 멈춤
profile
컴퓨터가 좋아
post-custom-banner

0개의 댓글