캐글 집값 예측을 통한 선형 모델 비교하기
lightgbm, xgboost, ridge, svr, gbr, rf 모델들을 셋업해줍니다.
셋업된 모델들을 StackingCVRegressor을 통해 스태킹해줍니다. 스태킹은 여러 다른 머신 러닝 모델의 예측 결과를 결합하여 최종 예측을 만들어내는 앙상블 기법입니다.
각 모델의 rmse의 평균과 표준편차를 출력해줍니다.
각 모델에 가중치를 곱해주고 합쳐줍니다. 이렇게 가중치를 부여하여 각 모델의 예측 결과를 조합하면, 다양한 모델의 강점을 활용하여 최종 예측을 만들어내고, 과적합을 줄이고 예측의 안정성을 높일 수 있습니다.
앙상블 모델의 경우 표준 편차를 계산하기 어려우므로 0으로 설정해줍니다.
마지막으로 RMSLE스코어를 출력해줍니다.
적용한 6가지 모델의 RMSE와 blended해준 모델의 RMSE를 시각화해주었습니다. 일반적인 모델보다 blended해준 모델이 더 좋은 성능을 발휘한다는 것을 알 수 있습니다.
