- 앙상블은 여러 개별 모델(예: 신경망)의 예측을 결합하여 하나의 예측을 생성하는 기법입니다. 목적은 단일 모델의 예측보다 더 정확하거나 안정적인 예측을 도출하는 것입니다. 앙상블 방법에는 여러 종류가 있습니다:
- Bagging: 동일한 알고리즘을 사용하지만, 훈련 데이터의 서로 다른 랜덤 샘플을 사용하여 여러 모델을 훈련합니다. 모든 예측의 평균을 내거나 투표를 통해 최종 예측을 결정합니다. 예를 들어, 랜덤 포레스트가 이에 해당합니다.
- Boosting: 여러 모델을 순차적으로 훈련시키며, 이전 모델의 오류를 다음 모델이 보정하는 방식입니다. 각 모델은 전체 앙상블에서의 예측에 가중치를 부여받아 기여합니다.
- Stacking: 다른 모델들의 예측을 입력으로 사용하여 새로운 모델(메타 러너)을 훈련시킵니다. 이 메타 러너는 각각의 입력 모델들이 어떤 경우에 더 신뢰할 수 있는지를 학습합니다.
새로운 것이 들어오면 이미 있는 것과 충돌을 시도하라.