베이지안(베이즈) 정리, 유도

베이즈 정리

$P(H|E) = \frac {P(E|H)P(H)} {P(E)}$

• H(Hypothesis) : 가설, 어떤 사건이 발생하였다는 주장
• E(Evidence) : 새로운 정보

• P(H) : 어떤 사건이 발생하였다는 주장의 신뢰도
• P(H|E) : 새로운 정보를 받은 후 갱신된 신뢰도

즉, 사전확률과 사후확률 간 관계에 대해 설멍하는 정리

베이즈 정리의 특징

• 기존의 통계는 빈도주의 관점을 기반으로 구성, 연역적 사고를 기반으로 한다.
• 예를들어, 어떤 모집단이나 표본집단의 분포를 설정한 이후에 이를 검정하는 식

• 반면, 베이즈 정리는 경험에 기반한, 불확실성이 있는 수치에서 새로운 정보를 통하여 수정되는 방식
• 귀납적 추론 방식이며, 추가적인 정보를 통해 수정이 가능하다는 점이 다르다

베이즈 정리의 유도

• 조건부 확률이 아래의 식으로 성립됨을 증명하는 과정이다

  $P(A|B) = \frac {P(A \cap B)} {P(B)} = \frac {P(A|B)P(B)} {P(B)}$

• P(A|B)는 B가 성립될 확률 중, A와 B가 동시에 성립될 확률이다.

• P(A|B)와 P(A|B)를 아래와 같이 표현할 수 있는데

  $P(A|B) = \frac {P(A \cap B)} {P(B)}$
  $P(B|A) = \frac {P(B \cap A)} {P(A)}$

• 이 식에서 분모를 옮기면

  $P(A|B) \, {P(B)} = {P(A \cap B)}$
  $P(B|A) \, {P(A)}= {P(B \cap A)}$

• 여기에서 ${P(A \cap B)}$와 ${P(B \cap A)}$가 같으므로

  $P(A|B) \, {P(B)} =P(B|A) \, {P(A)}$

• 위 식에서 항을 정리하면

  $P(A|B) = \frac {P(A|B)P(B)} {P(B)}$

  $$

[출처]
공돌이의 수학정리 노트 : https://angeloyeo.github.io/2020/01/09/Bayes_rule.html
임베디드에서 서버까지 : https://smwgood.tistory.com/14