📊 베이즈 정리 (Bayesian Rule)

1. 베이즈 정리란?

---

1) 베이즈 정리 정의

 우선 베이즈 정리의 조건을 만족하기 위해서는 전체 확률의 법칙(전확률 정리)의 조건을 만족해야 합니다. 그 이유는 전확률 정리 공식을 베이즈 정리에서 일부 사용하기 때문입니다. 조건은 다음과 같습니다.

• 베이즈 정리 만족 조건
  ① 사건 B들은 서로 배반이다.
  ② 사건 B들의 합집합은 전체 표본집합 S이다.
  ③ 나눠진 B들에 포함되는 사건 A에 의해 전확률 정리가 성립된다.

 베이즈 정리란, '이전 경험(원인)들'과 '이전 경험(원인)들이 현재 관측 결과에 미치는 영향'을 토대로 '현재 관측 결과가 특정 경험(원인)에 의해 발생된 확률임을 추론'하기 위한 과정입니다. 정리해봅시다.

• 베이즈 정리 : 현재 일어난 사건의 결과를 이전에 있던 어떤 경험(원인)에 의해 발생되었는지 추론(예측)하는 사후 확률
  

 위와 같이, 베이즈 정리를 구할 때 사전 확률들을 이용해 사후 확률을 구하게 됩니다. 그리고 베이즈 정리를 간단하게 표현하자면, 현재 일어난 사건의 특정한 과거 원인을 구하는 과정이라고 보시면 됩니다.

• 사전확률 : 이미 주어진 확률
• 사후확률 : 추론(예측)해야 할 확률

2) 베이즈 정리 관계식

2. 베이즈 정리 문제

---

1) 검사 시약 문제

• 문제
  제약사에서 환자가 감기에 걸린지 확인하는 시약을 만들었다. 감기는 전체 인구 중 걸린 사람이 0.2%인 병이다. 감기에 걸린 환자에게 시약을 테스트한 결과 99%의 확률로 양성 반응을 보였다. 하지만, 감기에 걸리지 않은 환자에게 시약 검사를 했을 때, 양성 반응, 즉 잘못된 결과(False Positive)가 나타난 확률이 5%이다. 감기에 걸린지 확인이 되지 않은 어떤 환자가 이 시약을 테스트한 결과, 양성 반응을 보였다면 이 환자가 감기에 걸려 있을 확률은 얼마인가?
  
  
• 사건 정리
  P(A) = ? : 시약 테스트 결과, 양성 반응
  P(B1) = 0.002 : 감기에 걸린 사람의 비율
  P(B2) = 0.998 : 감기에 걸리지 않은 사람의 비율
  P(A|B1) = 0.99 : 감기에 걸린 사람에게, 양성이 나온 확률 (TP)
  P(A|B2) = 0.05 : 감기에 걸리지 않은 사람에게, 양성이 나온 확률 (FP)
  
  
• 목표
  P(B1|A) : 양성 반응이 나왔을 때, 이 사람이 감기에 걸린 사람인 확률
  
  
• 풀이 절차
  ① 관찰 사건와 이전 경험(원인) 사건으로 구분하기
  ② 전체 표본집합에서 '배반'이고 '분리'된 사건 Bi들을 정의하기
  ③ 각 사건 Bi들이 현재 관찰 결과에 미치는 가능성(지지도) 파악하기
  ④ P(B1|A) 베이즈 정리 공식을 '곱셈정리'와 '전확률 정리'로 풀어쓰기
  ⑤ 정리한 사건의 확률 값을 대입

 위와 같은 조건의 문제가 있을 때, 베이즈 정리로 문제를 풀어봅시다.

• ① 관찰 결과와 이전 경험(원인) 구분하기
  관찰 사건 : 시약 테스트 결과, 양성 반응인 확률
  경험(원인) 사건 : 감기에 걸린 여부에 따른 확률 - 두 가지로 분리

  * TIP : 관찰 사건은 경험 사건 안에 포함되는 내용이다.
  → 감기에 걸린 사람이 시약 테스트를 받아 검사 결과가 나온다.

• ② 전체 표본집합에서 '배반'이고 '분리'된 사건 Bi들을 정의하기
  P(B1) = 0.002 : 감기에 걸린 사람의 비율
  P(B2) = 0.998 : 감기에 걸리지 않은 사람의 비율
  
  
• ③ 각 사건 Bi들이 현재 관찰 결과에 미치는 가능성(지지도) 파악하기
  P(A|B1) = 0.99 : 감기에 걸린 사람에게, 양성이 나온 확률 (TP)
  P(A|B2) = 0.05 : 감기에 걸리지 않은 사람에게, 양성이 나온 확률 (FP)
  
  
  

2) 키 180cm 이상인 사람 뽑기

• 문제
  어느 도시에서 남성의 6%, 여성의 1%의 키가 180cm 이상이다. 그리고 여성은 도시 인구의 62%를 차지한다. 임의로 한 사람을 선택했더니 키가 180cm 이상이라면, 이 사람이 여성일 확률은?
  
  
• 사건 정리
  P(A) = ? : 180cm 이상인 확률
  P(B1) = 0.62 : 여성 인구 비율
  P(B2) = 0.38 : 남성 인구 비율
  P(A|B1) = 0.01 : 여성인 경우, 키가 180cm 이상인 확률
  P(A|B2) = 0.06 : 남성인 경우, 키가 180cm 이상인 확률
  
  
• 목표
  P(B1|A) : 180cm 이상인 사람을 선택했을 때, 여성인 확률
  
  
• 풀이 절차
  ① 관찰 사건와 이전 경험(원인) 사건으로 구분하기
  ② 전체 표본집합에서 '배반'이고 '분리'된 사건 Bi들을 정의하기
  ③ 각 사건 Bi들이 현재 관찰 결과에 미치는 가능성(지지도) 파악하기
  ④ P(B1|A) 베이즈 정리 공식을 '곱셈정리'와 '전확률 정리'로 풀어쓰기
  ⑤ 정리한 사건의 확률 값을 대입

 위 풀이 절차로 문제를 풀어봅시다.

• ① 관찰 결과와 이전 경험(원인) 구분하기
  관찰 사건 : 180cm 이상인 경우
  경험(원인) 사건 : 여성과 남성인 경우 → 두 가지로 분리

  * TIP : 관찰 사건은 경험 사건 안에 포함되는 내용이다.
  → 전체 인구(여성과 남성) 안에 180cm 이상인 사람이 포함되는 개념이다.

• ② 전체 표본집합에서 '배반'이고 '분리'된 사건 Bi들을 정의하기
  P(B1) = 0.62 = 여성 인구 비율
  P(B2) = 0.38 = 남성 인구 비율
  
  
• ③ 각 사건 Bi들이 현재 관찰 결과에 미치는 가능성(지지도) 파악하기
  P(A|B1) = 0.01 = 여성인 경우, 180cm 이상인 확률
  P(A|B2) = 0.06 = 남성인 경우, 180cm 이상인 확률
  
  
  

3. 베이즈 정리의 특징

---

1) 결과를 관측한 뒤, 원인(경험)을 추론할 수 있다.


2) 조건부확률 P(A|Bi)로 조건이 바뀐 조건부확률 P(Bi|A)를 구하는 것


3) 기존 통계학과는 다르게, 모집단을 확정짓지 않는다.
→ 중간에 정보(원인 정보)가 추가될수록, 결과 확률 P(Bi|A)가 수정되는 과정을 설명할 수 있다.

💡 정리

---

1. 베이즈 정리를 만족하기 위한 조건은 다음과 같다.
   ① 사건 B들은 서로 배반이다.
   ② 사건 B들의 합집합은 전체 표본집합 S이다.
   ③ 나눠진 B들에 포함되는 사건 A에 의해 전확률 정리가 성립된다.
   
   
2. '이전 경험(원인)들'과 '이전 경험(원인)들이 현재 관측 결과에 미치는 영향'을 토대로 '현재 관측 결과가 특정 경험(원인)에 의해 발생된 확률임을 추론'하기 위한 과정을 '베이즈 정리'라고 한다.

   사전 확률
   ① 이전 경험(원인)들에 대한 확률
   ② 이전 경험(원인)들이 현재 관찰 결과에 미치는 가능성(지지도) 확률

   ---

   사후 확률
   ① 현재 관측 결과가 특정한 경험(원인)에 의해 발생된 것임을 추론한 확률

3. 베이즈 정리 관계식
   
   
   
4. 관찰 사건(현재)은 경험(원인, 과거) 사건에 포함되는 개념이다.
   
   
5. 기존에 아는 정보인 조건부확률 P(A|Bi)로, 조건이 바뀐 조건부확률 P(Bi|A)를 구할 수 있다.

참고 자료

• [확률과 통계] 14. 베이즈 정리, Bayes' Theorem / Bayes' Rule
• 6.6 베이즈 정리 - 데이터 사이언스 스쿨