입력 변수와 목표 변수의 관계를 가장 잘 나타내는 게 직선이 아닌 곡선일 수 있습니다. 함수의 차수가 높을수록 굴곡이 많은 곡선이고, 우리가 데이터를 보고 적합할 것 같은 모양을 골라야 합니다.
예를 들어, 데이터에 가장 잘 맞는 곡선이 이차 함수일 것 같으면 다음과 같이 가설 함수를 설정합니다.
이런 식으로 데이터에 잘 맞는 일차 함수나 직선을 구하는 게 아니라 다항식이나 곡선을 구해서 학습하는 걸 '다항 회귀'라 합니다.