베이즈 추정

베이즈 정리 (Bayes' Theorem)

마치 탐정이 사건을 해결할 때, 처음 의심하던 사람이 있었는데 새로운 단서들을 발견하면서 진짜 범인을 찾아가는 것과 비슷하다.

• 처음 추측에서 시작해서
• 새로운 증거를 보면서
• 점점 더 정확한 답을 찾아가는 방법

P(θ|D) = P(D|θ) × P(θ) / P(D)

각 항목 설명:

• P(θ|D): 사후분포 (Posterior) - 데이터를 본 후 θ에 대한 믿음
• P(D|θ): 가능도 (Likelihood) - θ가 주어졌을 때 데이터 D가 관측될 확률
• P(θ): 사전분포 (Prior) - 데이터를 보기 전 θ에 대한 사전 믿음
• P(D): 증거 (Evidence) - 정규화 상수

비례식으로 간단히

사후분포 ∝ 가능도 × 사전분포 = P(θ|D) ∝ P(D|θ) × P(θ)

즉,

업데이트된 믿음 = 새로운 증거의 신빙성 × 원래 믿음

사전 지식과 새로운 데이터를 곱해서 더 나은 추정을 만드는 것이 핵심으로, 이 수식이 베이즈 추정의 모든 것을 표현하고 있음

더 쉽게 말하면:

"처음 생각 + 새로운 정보 = 더 정확한 추측"

예를 들면:

친구가 가방에 빨간사탕과 파란 사탕을 숨겨 두었고, 이 숨겨둔 사탕을 맞춰 보기로 한다.

1. 처음 생각 (사전 정보): "아마 빨간 사탕이 더 많을 거야"

   • 왜냐하면 친구가 빨간색을 좋아하거든요

2. 새로운 정보 수집: 가방에서 사탕을 하나씩 뽑아 본다

   • 첫 번째: 파란 사탕이 나왔어요!
   • 두 번째: 또 파란 사탕!
   • 세 번째: 또또 파란 사탕!

3. 생각 업데이트: (예상과 달리)"어? 파란 사탕이 더 많은 것 같네?"

   • 처음엔 빨간 사탕이 더 많다고 생각했지만
   • 계속 파란 사탕만 나오니까 생각을 바꾸게 됨