[AI] Voting of Ensemble : Scikit - Learn

Ik·2022년 7월 17일
0

Data

목록 보기
10/34

Voting

  • 서로 다른 종류의 알고리즘들을 결합해 다수결 방식으로 최종 결과를 출력
  • 유형
    • Hard Voting
      • 다수결 : 다수의 추정기가 결정한 예측값들 중 많은 것을 선택
    • Soft Voting
      • 다수의 추정기에서 각 레이블별 예측한 확률들의 평균을 내서 높은 평균이 높은 레이블값을 결과값으로 선택
      • Hard Voting보다 성능이 더 좋다

VotingClassifier

from sklearn.ensemble import VotingClassifier
# Ensemble에 사용할 model들
estimators = [
    ('knn', knn),
    ('xgb', xgb), 
#     ('logistic regression', lr)
    ('random forest',rf),
    ('svm', svc)
]
voting = VotingClassifier(estimators, voting = 'hard')  # default : hard 
voting = VotingClassifier(estimators, voting = 'soft')
# model 학습
voting.fit(전처리된 Feature, Label)

0개의 댓글