5-1 결정 트리
예 / 아니오 에 대한 질문을 이어나가면서 정답을 찾아 학습하는 알고리즘
5-2 교차 검증과 그리드 서치
| 정의 | |
|---|---|
| 교차 검증 | 훈련 세트를 여러 폴드로 나눈 다음 한 폴드가 검증 세트의 역할을 하고 나머지 폴드에서는 모델을 훈련. 모든 폴드에 대해 검증 점수를 얻어 평균을 얻음. |
| 그리드 서치 | 하이퍼파라미터 탐색을 자동화해 주는 도구. ①탐색할 매개변수 나열 ②교차 검증 수행 ③가장 좋은 검증 점수의 매개변수 조합 선택 ④선택한 매개변수 조합으로 최종 모델 훈련 |
5-3 트리의 앙상블
앙상블 학습: 더 좋은 예측 결과를 만들기 위해 여러 개의 모델을 훈련하는 머신러닝 알고리즘
.