MSE(Mean Squared Error) - 평균 제곱 오차

MSE에 간단 개념

• 오차(error)를 제곱한 값의 평균임
• 오차란 알고리즘이 예측한 값과 실제 정답과의 차이를 의미함
• 알고리즘이 정답을 잘 맞출수록 MSE 값은 작음
• MSE 값은 작을수록 알고리즘의 성능이 좋다고 볼 수 있음

오차 대비 큰 손실 함수의 증가폭

• MSE는 오차가 커질수록 손실 함수 값이 빠르게 증가하는 특징
• 하단 그림은 MSE를 좌표평면에 나타낸 것
• 손실 함수(E)의 크기는 오차의 제곱에 비례하여 변하는 것을 볼 수 있음
• 그만큼 미분값이 일정하지 않고 오차가 커질수록 미분값 역시 커지는 것을 알 수 있음
• MSE와는 다르게, 평균절대오차(MAE)는 오차가 커질수록 손실 함수가 선형적으로 증가함
• MAE와 비교했을 때, MSE가 비교적 오차의 변화량에 따라 손실 함수 값이 크게 변한다는 것을 알 수 있음
• MSE는 회귀(Regression) 문제에 자주 활용 오차를 줄여가면서 업데이트

MAE(Mean Absolute Error) - 평균 절대 오차

MAE에 간단 개념

• 오차(error)를 절댓값을 계산한 뒤 평균한 값임
• 오차란 알고리즘이 예측한 값과 실제 정답과의 차이를 의미함
• 알고리즘이 정답을 잘 맞출수록 MAE 값은 작고, MAE 값이 작을수록 알고리즘의 성능이 좋다고 볼 수 있음
• MSE와 달리 오차를 제곱하지 않기 때문에 큰 오차에 상대적으로 덜 민감함

RMSE(Root Mean Squared Error) - 평균 제곱근 오차

• 오차를 제곱하여 평균한 뒤 다시 제곱근을 취한 값임
• 오차란 알고리즘이 예측한 값과 실제 정답과의 차이를 의미함
• 알고리즘이 정답을 잘 맞출수록 RMSE 값은 작고, RMSE 값이 작을수록 알고리즘의 성능이 좋다고 볼 수 있음
• 오차를 제곱하기 때문에 큰 오차에 더 큰 페널티를 부여하는 특징이 있음
• 마지막에 제곱근을 취하기 때문에 실제 데이터와 동일한 단위로 해석할 수 있음