[ML] 선형 회귀 (linear regression)

회귀 (linear regression) 개요

• 1개 이상의 feature 와 연속적인 타깃 변수 사이의 관계를 모델링
• class label 분류가 아닌, 연속적인 output 값을 예측

단순 선형 회귀 (simple lenear regression)

• 하나의 feature 과 연속적인 타깃 사이의 관계를 모델링
  • feature 는 설명 변수 (explanatory variable) x 로 표현
  • 타깃은 응답 변수 (response variable) y 로 표현
• $y=w_0+w_1x$
  • $w_0$ : Y축 절편 (intercept)
  • $w_1$ : feature 의 가중치
• 샘플에 잘 맞는 직선을 구하는 방식
  • 이 직선을 회귀 직선 (regression line) 이라 한다.
  • 회귀 직선 과 샘플 사이의 거리를 오차(offset) 또는 잔차(residual) 라 함

다중 선형 회귀 (multiple linear regression)

• feature 가 여러개가 존재하는 선형 회귀 모델

• $y=w_0x_0+w_1x_1+...+w_mx_m=\displaystyle\sum_{i=0}^{m}w^{T}x$

reference

• 서적 '머신러닝 교과서 with 파이썬, 사이킷런, 텐서플로 개정 3판'