손실 함수(loss function)란 무엇이며, 왜 중요한가요?

1. 손실 함수(Loss Function)

• 머신러닝 모델이 얼마나 틀렸는지 수치로 계산하는 함수
• '예측값과 실제값의 차이를 점수로 나타내는 기준'

2. 왜 필요한가?

머신러닝 모델은 처음엔 대부분 엉뚱하게 예측함
예를 들어 집값 예측 모델이:

• 실제 집값: 5억
• 모델 예측: 8억
  이라고 예측했다면, '3억이나 틀렸다'는 것을 숫자로 알려줘야 함
  이때 사용하는 것이 손실 함수

3. 머신러닝 학습 과정

모델은 아래 과정을 반복
1. 예측 수행
2. 손실 함수로 오차 계산
3. 오차가 줄어들도록 가중치 수정
4. 다시 예측
즉, 손실 함수는 모델이 어디로 수정되어야 하는지 알려주는 나침반 역할

▶️ 간단한 예시
실제값과 예측값:

실제값	예측값
10	8
20	25

오차:

• 10 - 8 = 2
• 20 - 25 = -5
  손실 함수는 이런 오차들을 하나의 숫자로 계산

4. 대표적인 손실 함수

1) 평균제곱오차(MSE)

회귀 문제에서 가장 많이 사용

• 오차를 제곱해서 평균냄
• 큰 오차에 민감

예:

• 집값 예측
• 매출 예측

특징:

• 미분이 쉬움
• 이상치(outlier)에 영향 큼

2) 평균절대오차(MAE)

• 오차 절대값 평균
• 이상치 영향이 덜함

3) 교차 엔트로피(Cross Entropy)

분류 문제에서 많이 사용

예:

• 스팸 메일 분류
• 고양이/개 분류
  예측 확률이 실제 정답과 얼마나 다른지 계산

5. 손실 함수가 중요한 이유

1) 모델 성능 기준이 됨

손실값이 작을수록 예측이 정확

2) 학습 방향을 결정함

모델은 손실을 최소화하는 방향으로 학습됨

3) 문제 유형마다 적절한 손실 함수가 다름

문제	주로 사용하는 손실 함수
회귀	MSE, MAE
이진 분류	Binary Cross Entropy
다중 분류	Categorical Cross Entropy

☝️ 잘못 선택하면:

• 학습이 느려지거나
• 정확도가 떨어지거나
• 이상치에 과도하게 반응할 수 있음

손실 함수는: '시험에서 몇 점 틀렸는지 계산하는 채점 기준'
머신러닝 모델은: '점수를 보면서 틀린 부분을 계속 수정하는 학생'

😎