조건부 독립과 (무조건부) 독립의 관계

이번 포스팅에서는 두 개의 사건이 서로간에 조건부 독립이지만 서로간에 독립이 아닌 경우에 대해서 예제를 가지고 살펴 보겠습니다.

예제 및 해설

두 개의 동전 $C_1$과 $C_2$가 있다고 가정 하겠습니다.

이 두개의 동전은 동전의 앞면이 나올 확률이 편향된 동전으로써 각각 $C_1$의 경우 앞면이 나올 확률은 $\frac{1}{3}$ 그리고 $C_2$의 경우 앞면이 나올 확률은 $\frac{2}{3}$ 입니다.

위의 내용을 가지고 각각 두 개의 동전이 앞면이 나오는 확률에 대해서 다음의 조건부 확률식으로 정의 하겠습니다.

$P\left(\text{앞면}|C_1\right) = \frac{1}{3} \;\;\;\; P\left(\text{앞면}|C_2\right) = \frac{2}{3}$

다음으로 동전 $C_1$과 $C_2$에 대해서 Random으로 선택하는 확률은 각각 다음과 같습니다. 여기서 $C_1$과 $C_2$는 서로 배반사건 입니다.

$P\left(C_1\right) = P\left(C_2\right) = \frac{1}{2}$

Random으로 선택 한 동전에 대해서 동전 던지기를 두 번 수행 합니다. 이 때 각각 첫 번째 동전 던지기와 두 번째 동전 던지기에 대해서 모두 앞면이 나오는 사건을 다음과 같이 정의 하고 이 두 사건은 선택 된 동전에 대한 조건부 독립이라고 하겠습니다.

$H_1 := \text{첫 번째 동전 던지기의 결과는 앞면}$
$H_2 := \text{두 번째 동전 던지기의 결과는 앞면}$

전체 확률 법칙을 이용해서 $H_1$에 대한 확률을 다음과 같이 계산 하겠습니다.($C_1$과 $C_2$는 서로 배반사건 입니다.)

$P(H_2)$ 역시 확률의 대칭성에 의해 $\frac{1}{2}$ 입니다.

전체 확률 법칙을 이용해서 $H_1$과 $H_2$의 교사건의 확률을 다음과 같이 계산 하겠습니다.($H_1$과 $H_2$는 선택 한 동전에 대한 조건부 독립)

우리는 위에서 $H_1$과 $H_2$를 동전 던지기에 대한 조건부 독립이라고 가정 했습니다.

$P(H_1|C_1)=P(H_2|C_1)=\frac{1}{3}$
$P(H_1 \cap H_2|C_1)=\frac{1}{3} \cdot \frac{1}{3} = P(H_1|C_1) \cdot P(H_2|C_1)$

그런데 $P(H_1 \cap H_2) = \frac{5}{18} \ne \frac{1}{4} = \frac{1}{2} \cdot \frac{1}{2} = P(H_1) \cdot P(H_2)$ 이므로 $H_1$과 $H_2$는 독립사건이 아닌 종속 사건입니다.

여기에 대해서 한 가지 직관적인 설명이 가능합니다.

예컨데 선택한 동전을 던져서 첫 번째에 앞면이 나왔다면 우리는 $C_2$ 동전의 앞면이 나올 확률이 $C_1$ 보다 두 배 높으므로 아마도 선택한 동전이 아마도 $C_2$라고 생각 할 수 있습니다. 그리고 이 추론에 따라서 두 번째 동전을 던졌을 때의 결과도 앞면이라고 예상 할 수 있습니다.

결론

우리는 이 포스팅의 예제를 통해서 $H_1$,$H_2$ 두 개의 조건부 독립사건이 무조건부 독립사건을 함의 하지 않음을 확인 할 수 있었습니다. 사실 두 개의 무조건부 독립사건도 조건부 독립사건을 함의 하지 않습니다. 이 경우에 대해서는 다른 포스팅에서 살펴 보겠습니다.