[구글 머신러닝 단기집중과정] 6강

1. 검증(Validation set) : 추가 분할

이전 모듈에서는 데이터 세트를 학습 세트와 테스트 세트로 분리하는 방법을 소개했다. 이러한 분리를 통해 예제 세트 하나로는 학습을 수행하고, 다른 예제 세트로는 모델 테스트를 수행할 수 있었으며, 두 개의 분할을 사용하는 워크플로우의 예는 다음과 같다.

그림 1. 가능한 워크플로우

이 그림에서 '모델 조정' 이란 학습률 변경, 특성 추가 또는 삭제, 완전히 새로운 모델 설계와 같이 모델에서 가능한 모든 요소를 조정함을 의미한다. 이 워크플로우 마지막에서 테스트 세트를 기준으로 가장 우수한 모델을 선택한다.

데이터 세트를 둘로 나누는 것은 좋은 생각이지만 더 훌륭한 방법이 있다. 다음 그림과 같이 데이터 세트를 셋으로 나누면 과적합 가능성을 크게 낮출 수 있다.

그림 2. 데이터 세트 하나를 셋으로 분할

검증세트를 사용하여 학습 세트의 결과를 평가한다. 그런 다음 모델이 검증세트를 '통과'한 후 테스트 세트를 사용하여 다시 평가해 본다. 다음 그림에서는 이러한 새 워크플로우를 보여준다.

그림 3. 워크플로우 개선

개선된 워크플로우는 다음과 같이 진행된다.

• 검증(Validation) 세트에서 가장 우수한 결과를 보이는 모델을 선택.
• 테스트 세트를 기준으로 해당 모델을 재차 확인.

이 워크플로우는 테스트 세트가 보다 적게 노출되므로 더 우수하다.

.
.
.
실습 링크 : 구글 머신러닝 단기집중과정