파이썬 머신러닝 완벽 가이드

• 교재 308p

회귀는 여러 개의 독립변수와 한 개의 종속변수 간의 상관관계를 모델링하는 기법을 통칭한다.
독립변수의 값에 영향을 미치는 것을 회귀 계수라고 한다.
머신러닝 관점에서 독립변수는 피처에 해당되며 종속변수는 결정 값이다.
머신러닝 회귀 예측의 핵심은 주어진 피처와 결정 값 데이터 기반에서 학습을 통해 최적의 회귀 계수를 찾아내는 것이다.

선형 회귀는 실제 값과 예측값의 차이(오류의 제곱 값)을 최소화하는 직선형 회귀선을 최적화하는 방식이다.
선형 회귀 모델은 규제 방법에 따라 다시 별도의 유형으로 나뉠 수 있다.
규제는 일반적인 선형 회귀의 과적합 문제를 해결하기 위해서 회귀 계수에 페널티 값을 적용하는 것을 말한다.

• 교재 329p
  회귀에서 선형 회귀/비선형 회귀를 나누는 기준은 회귀 계수가 선형/비선형인지에 따른 것이지 독립변수의 선형/비선형 여부와는 무관하다.

intercept(절편), coefficients(회귀 계수)

회귀 평가 지표

• mae : 실제 값과 예측값의 차이를 절대값으로 변환해 평균한 것
• mse : 실제 값과 예측값의 차이를 제곱해 평균한 것
• rmse : mse값은 오류의 제곱을 구하므로 실제 오류 평균보다 더 커지는 특성이 있으므로 mse에 루트를 씌운 것
• r2 : 분산 기반으로 예측 성능 평가
• msle
• rmsle

alpha
r2