# hyperopt

[머신러닝] 하이퍼파라미터 튜닝 (Hyperparameter Tuning) - Bayesian Optimization을 이용한 HyperOpt / Optuna
✔ HyperOpt HyperOpt는 이전 포스팅에서 설명한 Bayesian Optimization의 접근 방식을 취한다. 그럼, HyperOpt를 이용한 Hyperparameter Tuning 과정을 실습을 통해 알아보겠다. HyperOpt 설치 먼저, HyperOpt를 설치해보겠다. 다음의 명령어로 설치할 수 있다. > pip install hyperopt 실습을 위한 데이터 로드 실습을 위해 Boston 주택 가격 데이터를 로드하였다. 평가 함수 정의 (RMSE) 모델의 평가 함수를 정의함. Regression 예측을 하기에, RMSE를 평가 지표로 사용 HyperOpt를 활용한 XGBoost 튜닝 예제 space 변수에는 d

ML 09. sklearn 코드 정리
scikit-learn 주요 모듈 : 강의 다양한 머신러닝 알고리즘을 구현한 파이썬 라이브러리 심플하고 일관성 있는 API, 유용한 온라인 문서, 풍부한 예제 머신러닝을 위한 쉽고 효율적인 개발 라이브러리 제공 다양한 머신러닝 관련 알고리즘과 개발을 위한 프레임워크와 API 제공 많은 사람들이 사용하며 다양한 환경에서 검증된 라이브러리 scikit-learn 주요 모듈 | sklearn.datasets | 내장된 예제 데이터 세트 | | --- | --- | | sklearn.preprocessing | 다양한 데이터 전처리 기능 제공 (변환, 정규화, 스케일링 등) | | sklearn.feature_selection | 특징(feature)를 선택할 수 있는 기

하이퍼파라미터 튜닝
시작하기 전... 🤔 하이퍼파라미터란 무엇일까? 그리고 그 값은 누가, 어떻게 정하는 것일까? 매번 다른 사람들이 올린 코드에 주로 등장하는 튜닝 방법을 별 생각 없이 사용하거나, 때로는 무지성(...)으로 숫자를 바꿔가며 모델의 성능을 조금이라도 더 올리려고 아등바등했었는데, 좀 더 똑똑한 방법으로 튜닝하는 방법은 없을까 고민이 되었다. 캐글 노트북으로 하이퍼파라미터 튜닝 이론과 기법에 대해 공부해보았다. 1. Hyperparameter vs. Parameter 먼저 헷갈리는 하이퍼파라미터와 파라미터 구분부터 하자. | | Hyperparameter | Parameter | | :---: | :---: | :---: | | 설명 | 초매개변수모델 학습 과정에 반영되는 값학습 시작 전에 미리 조