[2장] 머신러닝- 모델학습(과적합/과소적합)

• 과대적합

훈련된 데이터에 있는 잡음의 양에 비해 모델이 너무 복잡할 떄 일어난다.

• 과대적합 해결방법

#파라미터 수가 적은 모델을 선택하거나(예를 들면 고차원 다항모델보다는 선형모델), 훈련데이터에 있는 특성 수를 줄이거나, 모델에 제약을 가하여 단순화시킨다.

#훈련 데이터를 더 많이 모은다.

#훈련 데이터의 잡음을 줄인다.(예를 들면 오류 데이터 수정과 이상치 제거)

-----------------------

• 과소적합

모델이 너무 단순해서 데이터의 내재된 구조를 학습하지 못할 때 일어납니다. 예를 들어 삶의 만족도에 대한 선형 모델은 과소 적합되기 쉽다. 이는 현실은 모델보다 더 복잡하므로 훈련 샘플에서조차도 부정확한 예측을 만들것이다.

• 과대적합 해결방법

#파라미터가 더 많은 강력한 모델을 선택한다.

#학습 알고리즘에 더 좋은 특성을 제공합니다(특성 엔지니어링)

#모델의 제약을 줄입니다(예를 들면 규제 하이퍼파라미터를 감소시킵니다)