앙상블이란?
개별 모델보다 더 높은 예측성능을 위해서 여러개의 모델을 결합하는 방법
배깅이란?
데이터 샘플을 무작위로 뽑아 모델을 학습시키고 결과를 결합해서 최종 예측값을 만드는 앙상블 기법
- 장점
오버피팅과 모델의 분산을 줄일 수 있다
병렬로 처리해서 학습속도가 빠르다
이상치나 노이즈가 많은 데이터에서 좋은 성능을 낸다 - 단점
모델간 상호작용이 없어서 복잡한 문제에서는 성능향상이 순차적모델인 부스팅보다 뚜렷하지 못하다
계산비용이 많이들고 모델의 해석이 어려워질 수 있다 - 용도
분류 및 회귀
부스팅이란?
약한 학습기를 결합해 강한학습기를 만드는 앙상블 방법중 하나
- 장점
모델의 편향을 줄이는데 효과적이고, 복잡한 문제에서 높은 성능을 낸다
데이터의 특성을 잘 반영해서 예측력을 높인다 - 단점
학습속도가 느리다 - 용도
회귀 및 분류
hi!