Ensemble LightGBM

mac intel LightGBM 설치 오류 해결

• 이번 강의에서 가장 힘들었던 점은 LightGBM 설치였습니다. 그래서 해결했던 방법을 공유하려고 합니다!
• 보통 설치 방법 pip install lightgbm or conda install lightgbm or brew install lightgbm
• 하지만 제 컴퓨터에서는 pip install lightgbm 경우 → Image not found 오류
• conda install lightgbm or brew install lightgbm → knerl 연결 중단 오류
• 그래서 구글링해서 얻은 방법
  1) 먼저 gcc 설치 확인 -> 미설치시 설치(저는 8버전이 맞아서 이걸로 설치했습니다. 컴퓨터마다 다르니 확인해주세요!)
  2) cmake 설치 확인 -> 미설치시 설치
  3) git clone
  4) pip install --no-binary :all: lightgbm(pip install lightgbm로 설치하면 안되는 경우가 있다고 합니다)

brew install gcc@8
brew install cmake

git clone --recursive https://github.com/Microsoft/LightGBM 
cd LightGBM  
export CXX=g++-8 CC=gcc-8 
mkdir build  
cd build
cmake .. 
make -j4

pip install --no-binary :all: lightgbm

LightGBM

• LightGBM은 XGBoost와 함께 부스팅 계열에서 가장 각광받는 알고리즘
• LGBM의 큰 장점은 속도
• 단, 적은 수의 데이터에는 어울리지 않음 (일반적으로 10000건 이상의 데이터가 필요하다고 함)
• GPU 버전도 존재함

import time
import warnings
from lightgbm import LGBMClassifier
from sklearn.metrics import accuracy_score
warnings.filterwarnings('ignore')

evals= [(X_test.values, y_test)]

start_time = time.time()
lgbm = LGBMClassifier(n_estimators=400)
lgbm.fit(X_train.values, y_train, early_stopping_rounds=100, eval_set=evals)

print('Fit time: ', time.time() - start_time)
print(accuracy_score(y_test, lgbm.predict(X_test.values)))
'''
Fit time:  282.9081630706787
0.8666440447913132
'''

Reference
1) 제로베이스 데이터스쿨 강의자료
2) https://lsjsj92.tistory.com/622