적은 양의 데이터를 사용하는법

모델을 만들 때 데이터가 부족한 경우가 있다.
이럴땐 바로 '교차 검증' 이 필요하다.
교차검증은 쉽게 말해 모의고사와 같다.
수능 보기 전 모의고사로 내 수준을 알 수 있다. 운 좋게 모의고사를 잘 봤다 해도 다음 5개의 시험에서 낮게 나온다면 하나의 이상치에 불과할 것이다.

교차검증도 훈련데이터를 k등분 하여 k-1개의 데이터를 학습시키고,
마지막 1개의 데이터셋을 예측하여 평가한다.
이를 통해 하이퍼파라미터를 학습하게 된다.

만일 validation세트를 두지 않는다면 테스트데이터에 맞춤형 모델이 되어서 하이퍼파라미터가 테스트데이터를 따라간다. 즉 정보의 누출이 되는것이다. 수능시험지를 미리 받아서 비교하며 공부한다면 문제가 바뀌면 점수가 낮게 나오는것과 같은 이치다.