[TIL] EBM (Explainable Boosting Machine)

설명 가능한 머신러닝 모델인 EBM을 소개

Trade Off

로지스틱 회귀, 의사결정 나무와 같이 설명 가능한 white box 모델은 예측 성능이 보편적으로 좋지 않음

이렇듯 대부분의 머신러닝 모델에서 예측 정확도와 설명 가능성은 trade off 관계를 보임

EBM

Microsoft에서 개발한 Explainable Boosting Machine은 XGBoost, LGBM 수준의 성능과 설명가능성을 모두 쟁취한 모델

GA2M

EBM은 GAM의 발전된 형태인 GA2M 모델의 한 종류

각 feature의 연산 값을 합하는 Genrelaized Additive Model에 상호작용 쌍을 추가한 모델이 GA2M

모델 구조

• 한 연산이 1개 feature를 사용한 머신 러닝 모델(GBM 등)
• FAST라는 자체 알고리즘을 통해 pairwise interaction term을 선택
• pairwise interaction term으로 2개 feature만 사용할 수 있는 머신 러닝 모델 (GBM 등)

즉 EBM 내부에는 모든 feature마다 자신만이 Input인 GBM 모델과 feature 2개를 Input으로 받는 GBM 모델 K개가 있는 것