Ridge 회귀
- 선형모델의 한 종류로 L2규제를 적용한 모델임
- 파라미터(alpha)값을 활용해 규제의 정도를 조정
- 모델의 과적합을 방지하기 위함
정규화와 비슷한 맥락
회귀 계수가 커지면 과적합 가능성이 존재하기에 L2규제를 이용하여 계수의 크기를 줄임(alpha 이용)
alpha값이 커질 수록 회귀 계수가 줄어듬
예제
from sklearn.linear_model import Ridge
model = Ridge(alpha = 1)
model.fit(x_train, y_train)
pred = model.predict(x_test)
mean_squared_error(y_test, pred)
회귀 계수
df = model.coef_(회귀 계수)
coef = pd.DataFrame(data = df, index = x_train.columns, columns = ['alpha1'])
alpha = 10
from sklearn.linear_model import Ridge
model = Ridge(alpha = 10)
model.fit(x_train, y_train)
pred = model.predict(x_test)
mean_squared_error(y_test, pred)
alpha = 0.1
from sklearn.linear_model import Ridge
model = Ridge(alpha = 0.1)
model.fit(x_train, y_train)
pred = model.predict(x_test)
mean_squared_error(y_test, pred)
