# lgbm

4개의 포스트
post-thumbnail

LightGBM feature importance

Kaggle, Dacon 또는 실제 모델링을 하다보면 feature를 여러개 추가해서 학습을 하게 된다. 이때, feature가 너무 많으면 오히려 학습에 방해되는데 필요없는 feature들은 제거하는 것이 좋다. 이때 어떤 feature를 살리고 버려야 할까?

2021년 7월 18일
·
0개의 댓글
post-thumbnail

LightGBM parameter tuning-(2) (with optuna)

LightGBM 하이퍼파라미터를 튜닝하기는 사실 어렵다. 워낙 LGBM이 파라미터 튜닝에 민감하기도 하고, 신경쓸게 너무 많다. 인턴을 하면서 알게된건 3가지 방법 순서대로 파라미터 튜닝을 했다.어쩔 수 없다. 학습이 빠르고 정확한 결과를 얻기 위해서 lightgbm을

2021년 7월 18일
·
0개의 댓글
post-thumbnail

LightGBM parameter tuning-(1)

하이퍼파라미터 종류와 뜻 docs 링크하이퍼파라미터 튜닝 docs 링크LightGBM은 leaf-wise로 트리를 탐색하므로 데이터가 적을 경우 오버피팅이 일어날 수 있다. 이를 방지하기 위해 하이퍼파라미터에 꽤나 민감하다.학습속도, 정확도, 오버피팅은 서로 trade

2021년 7월 18일
·
0개의 댓글
post-thumbnail

LightGBM(LGBM)

내가 바로 써먹기 위한 LGBM 속성, 야매 글입니다.자세한 설명은 생략한다LGBM은 Light GBM이다. Light하다는 것은 속도가 빠르고, 적은 메모리를 이용한다고 생각하면 된다. 당연히 GPU 가속기를 이용할 수 있다.GBM은 Gradient Boosting

2021년 4월 11일
·
0개의 댓글