์์๋ธ(Ensemble)์ ๋ถ๋ฅ(Classification)๋ฅผ ์ํ ML ๋ชจ๋ธ์ ๋ง๋ค ๋ ์ฌ๋ฌ ๊ฐ์ ์์ ๋ชจ๋ธ๋ค์ ๋ง๋ค๊ณ ์ด๋ค์ ๋ํด์ ์ฑ๋ฅ์ ๋์ด๋ ๋ฐฉ๋ฒ์ ๋๋ค.๋ณดํต ๋ชจ๋ธ์ ํ์ตํ๋ค๋ณด๋ฉด ๋ชจ๋ธ์ด ์ค๋ฒํผํ ๋๊ฑฐ๋ ์ธ๋ํผํ ๋๋ ๊ฒฝ์ฐ๊ฐ ์์ต๋๋ค.์ด๋ ๋ถ๋ฅ ๋ฌธ์ ์์ ๋๋ฌด ๊ณผํ๊ฒ
๋ชจ๋ธ ์ ๋ฅํ๊ฐ๋, ์ค์ ๋ชจ๋ธ๊ณผ ๋ชจ๋ธ์ ์์ธก๊ฐ์ ๋น๊ตํ์ฌ ์ค์ฐจ๋ฅผ ๊ตฌํ๋ ๊ฒ์ ๋๋ค.์ค์ ๊ฐ-์์ธก๊ฐ=0์ด๋ผ๋ฉด ๋ชจ๋ธ์ด 100% ๋ง์ถ ๊ฒ์ด๊ฒ ์ฃ .ํ์ง๋ง ์ค์ ๋ชจ๋ธ์ด ๊ทธ๋ฌ๊ธฐ๋ ํ๋ค๊ณ ์ค์ฐจ๋ฅผ ๊ตฌํด์ ์ด๋์ ๋๊น์ง์ ์ค์ฐจ๋ฅผ ํ์ฉํ ๊ฒ์ธ์ง ๊ฒฐ์ ํ๊ฒ๋ฉ๋๋ค.๋ชจ๋ธ ํ๊ฐ๋ฅผ ํ๋ ๋ชฉ์ ์ ๊ณผ์ ํฉ์ ๋ฐฉ
๋ชจ๋ธ์ด ๊ณผ์ ํฉ๋๊ฒ ํ์ตํ์ง ์๊ณ ์ผ๋ฐ์ฑ์ ๊ฐ์ง ์ ์๋๋ก ๊ท์ ํ๋ ๊ฒ์ ๋งํฉ๋๋ค.๋ฐ์ดํฐ์ ํผ์ณ๋ฅผ ์๋์ง ์๊ณ ์ ๋๋ดํ๊ฒ ๋ง๋๋ ค๋ฉด ๊ธฐ์ธ๊ธฐ(๊ฐ์ค์น)๋ฅผ ๊ฑด๋๋ฆฌ๋ฉด ์๋๊ณ ์ฌ์ฉํ๋ ๊ฒ์ด Lasso์ Ridge์ ๋๋ค.w๋ ๊ฐ์ค์น๋ฅผ ์๋ฏธํฉ๋๋ค.MSE์ ์ํ๋ฅผ ๊ณฑํ L1๊ท์ ํญ์ ๋
Ensemble 1ํธ์์๋ ๊ธฐ๋ณธ์ ์ธ Ensemble์ ๋ํด์ ๋ฐฐ์๋ณด์์ต๋๋ค.์ด๋ฒ ํฌ์คํ ์์๋ ์ข ๋ ์ฌํ๋ Ensemble์ ์์๋ด ์๋ค.'XGBoost (Extreme Gradient Boosting)' ๋ ์์๋ธ์ ๋ถ์คํ ๊ธฐ๋ฒ์ ํ ์ข ๋ฅ์ ๋๋ค.์ด์ ๋ชจ๋ธ์ ์ค๋ฅ๋ฅผ ์์ฐจ
Feature Engineering์ ๋ชจ๋ธ ์ ํ๋๋ฅผ ๋์ด๊ธฐ ์ํด์ ์ฃผ์ด์ง ๋ฐ์ดํฐ๋ฅผ ์์ธก ๋ชจ๋ธ์ ๋ฌธ์ ๋ฅผ ์ ํํํ ์ ์๋ features๋ก ๋ณํ์ํค๋ ๊ณผ์ ์ผ๋ก'๋จธ์ ๋ฌ๋ ์๊ณ ๋ฆฌ์ฆ์ ์๋ํ๊ธฐ ์ํด ๋ฐ์ดํฐ์ ๋๋ฉ์ธ ์ง์์ ํ์ฉํด feature๋ฅผ ๋ง๋๋ ๊ณผ์ '์ด๋ค.๋๋ถ๋ถ์ ํต
PCA๋ Principal Component Analysis์ ์ฝ์๋ก ๋ถํฌ๋ ๋ฐ์ดํฐ๋ค์ ์ฃผ์ฑ๋ถ์ ์ฐพ์๋ด๋ ๋ฐฉ๋ฒ์ ๋๋ค. ์๋์ ๊ฐ์ด 2์ฐจ์ ์ขํ์ n๊ฐ์ ๋ฐ์ดํฐ๊ฐ ๋ถํฌํ ๋ ๋ฐ์ดํฐ๋ค์ ๋ถํฌ ํน์ฑ์ 2๊ฐ์ ๋ฒกํฐ e1,e2๋ก ๊ฐ์ฅ ์ ์ค๋ช ํ ์ ์๋ ๋ฐฉ๋ฒ์ด ๋ฌด์์ธ๊ฐ๋ฅผ ํ์ ํด๋ด๋ ๊ฒ์ ๋๋ค. ์ฌ๊ธฐ์ e1์ ๋ฐฉํฅ๊ณผ ํฌ๊ธฐ, ๊ทธ๋ฆฌ๊ณ e2์ ๋ฐฉํฅ๊ณผ ํฌ๊ธฐ๋ฅผ ์๋ฉด ๋ฐ์ดํฐ์ ...
Sklearn์์ cv score ์ฌ์ฉํ ๋, ๋ง์ scoring์ด ์์ง๋ง, ๊ฒฝ์ฐ์ ๋ฐ๋ผ ์ง์ scoring ๋ฐฉ๋ฒ์ ๋ง๋ค์ด ์ฌ์ฉํด์ผํ ๋๊ฐ ์์ต๋๋ค.๊ทธ ๋ฐฉ๋ฒ์ ๋ํ์ฌ ํฌ์คํ ํด๋ณด๊ฒ ์ต๋๋ค.make_scorer make_scorer์ custom_scoring : custo
๋ชจ๋ธ์ ๊ตฌ์ถํ๊ณ ์ฒ ์ ํ ํ ์คํธ๋ฅผ ๋ง์น๊ณ ๋๋ฉด ๋ชจ๋ธ์ ๋ฐฐํฌํ ์ ์๋ค.๋ชจ๋ธ์ ์ด์ํ๊ฒฝ์ ๋ฐฐํฌํ๋ฉด ์์คํ ์ฌ์ฉ์๊ฐ ์์ฑํ ์ฟผ๋ฆฌ๋ฅผ ์ฒ๋ฆฌํ๊ฒ ๋๋ค.์ ๋ ฅ๋ฐ์ ์ฟผ๋ฆฌ๋ ํน์ง๋ฒกํฐ๋ก ๋ณํ๋๊ณ , ๋ณํ๋ ํน์ง ๋ฒกํฐ๋ฅผ ๋ชจ๋ธ์ ์ ๋ ฅํด์ ์ฑ์ ํ๊ณ ์ฑ์ ๊ฒฐ๊ณผ๋ฅผ ์ฌ์ฉ์์๊ฒ ๋ฐํํ๋ค.๋ชจ๋ธ ๋ฐฐํฌ๋ ๋จธ์
ROC curve๋ ๋ค์ํ threshold์ ๋ํ ์ด์ง๋ถ๋ฅ๊ธฐ์ ์ฑ๋ฅ์ ํ๋ฒ์ ํ์ํ ๊ฒ์ด๋ค.์ด์ง ๋ถ๋ฅ์ ์ฑ๋ฅ์ True Positive Rate์ False Positive Rate ๋๊ฐ์ง๋ฅผ ์ด์ฉํด์ ํํํ๊ฒ ๋๋ค.ROC Curve๋ฅผ ํ๋ง๋๋ก ํ์๋ฉด ROC ์ปค๋ธ๋ ์ข
๋ชจ๋ธ ์๋น ๋ฐํ์์ ๋ชจ๋ธ์ ์ ๋ ฅ ๋ฐ์ดํฐ์ ์ ์ฉํ๋ ํ๊ฒฝ์ด๋ค.๋ฐํ์์ ํน์ฑ์ ๋ฐฐํฌํจํด์ ๋ฐ๋ผ ๊ฒฐ์ ๋๋๋ฐ ํจ๊ณผ์ ์ธ ๋ฐํ์์ ํน์ฑ์ ์์๋ณด์.๋ฐํ์์ ์ฌ์ฉ์ ์ธ์ฆ๊ณผ ์ฌ์ฉ์ ์์ฒญ ์น์ธ์ ๋ด๋นํ๋ค. ๊ทธ๋์ ํน์ ์ฌ์ฉ์๊ฐ ์คํํ๋ ค๋ ๋ชจ๋ธ์ ๋ํ ์ ๊ทผ๊ถํ์ด ์๋์ง, ์ ๋ฌ๋ ๋งค๊ฐ๋ณ์
๋จธ์ ๋ฌ๋์ ๋ณต์กํ ๋ฌธ์ ๋ค์ ์ธ๊ฐ์ด ์ ์ํ ์ ์๋ ํฐ ๋ฐ์ดํฐ๋ ๋ณต์กํ ๋ฐ์ดํฐ๋ฅผ ํจ์จ์ ์ผ๋ก ํ์ด๋ผ ์ ์๋ ๋๊ตฌ์ ๋๋ค. ์ด ๋๊ตฌ๋ฅผ ํ์ฉํ์ฌ ์ํ ์ถ์ฒ ์์คํ , ์คํธ ๋ฉ์ผ ํํฐ, ์ด์์งํ ๊ฐ์ง ๋ณด์ ๋ฑ ๋ค์ํ ์๋น์ค๋ฅผ ๋ง๋ค ์ ์์ต๋๋ค.์ค์ ๋ก ๋ค์์ IT ๊ธฐ์ ๋ค์ ๋จธ์ ๋ฌ๋
์ด์ ํฌ์คํ ์ธ MLOps์์๋ ๋งํ๋๋ฐ ์์ธก ๋ชจ๋ธ์ด ์ฌ์ ์ ์ฑ๊ณผ๋ฅผ ๋ง๋ค๊ธฐ ์ํด์, ์ค์ ์ด์ ์๋น์ค์ ์ ์ฉ๋์ด์ผํฉ๋๋ค. DevOps์ ๋ง์ดํฌ๋ก ์๋น์ค ์ํคํ ์ฒ์ ๋ง์ฐฌ๊ฐ์ง๋ก MLOps ์์๋ ๋ชจ๋ธ์ ์์ธก๊ฐ์ ๋ง๋ค์ด๋ด๋ ๋ง์ดํฌ๋ก ์๋น์ค๊ฐ ํ์ํฉ๋๋ค. ์๋น์ค์ ๋ชฉ์ ์ ๋ฐ๋ผ
์ฐ๋ฆฌ๋ ์์ ํฌ์คํ ์ ํตํด ๋ชจ๋ธ ์๋น์ ๋ํด ์์๋ณด์๋ค.์๋น์ ์๋์๊ฒ ์์์ ๊ฐ์ ธ๋ค์ฃผ๋ ํ์๋ฅผ ๋งํ๋ค. ๋ชจ๋ธ ์๋น๋ ์ด์ ๊ฐ์ ๊ฐ๋ ์ธ๋ฐ, ๋ฅ๋ฌ๋์ด๋ ๋จธ์ ๋ฌ๋์ด๋ ์ด๋ ํ ๋ชจ๋ธ์ด ์์ธกํ ์์ธก๊ฐ์ ์ฌ์ฉ์์๊ฒ ์ ๋ฌํ๋ ๊ฒ์ด๋ค. ๋ชจ๋ธ ์๋น์ ์ํด์๋ ์ฌ๋ฌ ์ํฉ์ ๊ณ ๋ คํด์ผ ํ๋
์ ๋ kubeflow๋ฅผ minikube ํ๊ฒฝ์์ ์ค์นํ๊ณ ์ฌ์ฉํ๊ฒ ์ต๋๋ค.minikube๋ฅผ ์์ํด์ค๋๋ค. ์์ ์ ์คํ์ ์ด๋์ ๋ ํ ๋นํด์ ์์ํ๊ฒ ์ต๋๋ค.minikube ์ค์น๋ฅผ ํ๊ณ ์คํ๋ ๊ฒ์ ํ์ธํ์ผ๋ kubeflow๋ฅผ ์ค์นํด๋ณด๊ฒ ์ต๋๋ค.kubeflow ์ค์น๋ฅผ ์ํด k
์ฐธ์กฐ : https://lsjsj92.tistory.com/581
minikube์ Kubeflow 1.4.1์ ์ค์นํ๋ค.Kubeflow ์ค์น ๋ฐฉ์์ด ๋ฒ์ 1.2๊น์ง๋ kfctl๋ฅผ ์ฌ์ฉํ์์ผ๋, 1.3๋ถํฐ๋ kustomize๋ฅผ ์ฌ์ฉํ๋ค.โ kfctl is a CLI for deploying and managing Kubeflow, L