“Regression toward the mean”
Regression은 문장을 줄인 단어로써 실제 의미는 "아무리 큰 값, 작은 값이 있어도 전체 평균으로 되돌아간다(회귀한다)"라는 뜻
데이터를 가장 잘 대변하는 직선의 방정식을 찾는 것
Linear Regression -> 데이터를 가장 잘 대변하는 직선의 방정식을 찾는 것(y=ax+b 라는 식이 있을 때, a(기울기)와 b(y절편)를 찾는 것
Cost는 실제값과 가설에서 도출된 예측값과의 차이를 의미함
가설에서 y값을 뺀 값이 음수가 될 수도 있고, 양수가 될 수도 있어서 제곱해서 사용하는 경우가 많음
학습은 직선의 방정식을 계속해서 변화시켜가며 Cost의 합을 최소화하는 것이 목적임