Lecture 6: Monty Hall, Simpson's Paradox | Statistics 110

Monty Hall Problem

세 개의 문 중 하나에는 자동차가 있고, 나머지 두 개에는 염소가 있다.

참가자는 자동차가 어느 문에 있는지 모르는 상태에서 하나의 문을 선택한다.
이후 사회자 Monty Hall은 참가자가 선택하지 않은 문 중 염소가 있는 문 하나를 반드시 열고, 참가자에게 선택을 바꿀 기회를 준다.

핵심 조건

• 참가자는 자동차의 위치를 모른다.
• Monty는 자동차의 위치를 알고 있다.
• Monty는 항상 염소가 있는 문을 연다.
• Monty는 항상 선택을 바꿀 기회를 준다.
• 처음 선택이 자동차인 경우, Monty는 두 염소 문 중 하나를 $1/2$의 확률로 선택한다.

처음에는 각 문에 자동차가 있을 확률이 $1/3,1/3,1/3$이다.

---

왜 단순히 $1/2$가 아닌가?

예를 들어 참가자가 1번 문을 선택했다고 하자.

Monty가 2번 문을 열었다면, 남은 문은 1번과 3번이다.

겉으로 보면 두 문 중 하나에 자동차가 있으므로 각각 $1/2$처럼 보인다.

하지만 중요한 것은 단순히 "2번 문에 자동차가 없다"는 사실이 아니라, "Monty가 2번 문을 열었다"는 사실이다.

Monty는 자동차의 위치를 알고 있기 때문에 문을 여는 행동 자체가 정보를 포함한다.

---

경우를 나누어 생각하기

자동차의 위치에 따라 세 가지 경우가 있다.

• 자동차가 1번 문에 있는 경우: 확률 $1/3$
  • Monty는 2번 또는 3번을 열 수 있다.
  • 각각의 확률은 $1/2$이다.
• 자동차가 2번 문에 있는 경우: 확률 $1/3$
  • Monty는 반드시 3번 문을 연다.
• 자동차가 3번 문에 있는 경우: 확률 $1/3$
  • Monty는 반드시 2번 문을 연다.

따라서 Monty가 2번 문을 열었다고 하자.

이때 가능한 경우는

• 자동차가 1번 문에 있고 Monty가 2번 문을 연 경우: $1/3\times1/2=1/6$
• 자동차가 3번 문에 있고 Monty가 2번 문을 연 경우: $1/3\times1=1/3$

이다.

두 경우의 전체 확률은 $1/6+1/3=1/2$이므로 이를 다시 1로 맞추면

• Monty가 2번 문을 열었을 때 자동차가 1번 문에 있을 확률: $(1/6)/(1/2)=1/3$
• Monty가 2번 문을 열었을 때 자동차가 3번 문에 있을 확률: $(1/3)/(1/2)=2/3$

따라서 바꾸지 않으면 $1/3$, 바꾸면 $2/3$이다.

---

조약돌 세계로 이해하기

조건부 확률을 이해할 때와 마찬가지로, 가능한 세계들을 생각하면 쉽다.

처음에는 자동차의 위치에 따라 세 개의 세계가 있고 각각의 확률은 $1/3$이다.

Monty가 2번 문을 열었다는 정보를 얻으면, 이 정보와 모순되는 세계를 제거한다.

남은 세계들의 확률을 다시 전체가 1이 되도록 조정하면 자동차가 1번 문에 있을 확률은 $1/3$, 3번 문에 있을 확률은 $2/3$가 된다.

즉, 조건부 확률은 새로운 정보와 맞지 않는 세계를 제거한 뒤 남은 확률을 다시 정규화하는 것으로 생각할 수 있다.

---

전체확률법칙으로 풀이

세 문은 대칭적이므로, 참가자가 처음에 1번 문을 선택했다고 가정하자.

자동차가 각각의 문 뒤에 있는 사건을 $D_1,D_2,D_3$라고 하자.

• $D_1$: 자동차가 1번 문에 있음
• $D_2$: 자동차가 2번 문에 있음
• $D_3$: 자동차가 3번 문에 있음

따라서 $D_1$에서는 처음 선택이 정답이고, $D_2,D_3$에서는 처음 선택이 오답이다.

항상 선택을 바꾸는 전략으로 성공하는 사건을 $S$라고 하면,

$P(S)=P(S\mid D_1)P(D_1)+P(S\mid D_2)P(D_2)+P(S\mid D_3)P(D_3)$

이제 각 경우를 살펴보자.

• $D_1$: 처음 선택이 정답이므로 바꾸면 실패 → $P(S\mid D_1)=0$
• $D_2$: 처음 선택이 오답이므로 Monty가 3번 문을 열고, 2번으로 바꾸면 성공 → $P(S\mid D_2)=1$
• $D_3$: 처음 선택이 오답이므로 Monty가 2번 문을 열고, 3번으로 바꾸면 성공 → $P(S\mid D_3)=1$

처음에는 세 문에 자동차가 있을 확률이 각각 $1/3$이므로,

$P(S)=0\times\frac13+1\times\frac13+1\times\frac13=\frac23$

따라서 바꾸는 전략의 성공 확률은 $2/3$이다.

---

Symmetric Monty Hall

위의 결과에서 중요한 것은 Monty가 두 문을 선택할 때 대칭적으로 행동한다는 조건이다.

이 경우 어떤 문을 열었는지에 관계없이

• 바꾸지 않음 → 성공 확률 $1/3$
• 바꿈 → 성공 확률 $2/3$

가 된다.

---

Lazy Monty

만약 Monty가 두 문 중 하나를 더 선호한다면 상황이 달라진다.

예를 들어 Monty가 2번 문을 더 자주 여는 사람이라면, Monty가 어느 문을 열었는지에 따라 조건부 확률이 달라질 수 있다.

하지만 처음부터 항상 바꾸는 전략 자체의 성공 확률은 여전히 $2/3$이다.

즉, Monty의 행동 방식이 대칭적이지 않으면 어떤 문을 열었는가에 대한 정보가 추가적인 정보를 제공할 수 있다.

---

문이 1,000,000개라면?

문이 1,000,000개이고 처음에 1번 문을 선택했다고 하자.

처음 선택이 자동차일 확률은 $1/1,000,000$이다.

따라서 처음 선택이 틀렸을 확률은 거의 $1$에 가깝다.

Monty가 나머지 문 중 자동차가 없는 문을 모두 열고 하나의 문만 남겨준다면, 처음 선택을 유지하는 것보다 남은 다른 문으로 바꾸는 것이 압도적으로 유리하다.

3개의 문에서도 원리는 동일하다.

처음 선택을 바꾸는 것은 처음 선택이 틀렸던 거의 모든 경우를 가져가는 전략이다.

---

Simpson's Paradox

Simpson's Paradox는 여러 집단을 합쳤을 때 나타나는 결과와 각 집단을 따로 비교했을 때의 결과가 반대로 나타나는 현상이다.

즉,

각 세부 집단에서는 A가 더 좋은데, 전체를 합치면 B가 더 좋아지는 현상

이 발생할 수 있다.

---

의사 예시

두 의사 Dr. Hibbert와 Dr. Nick이 있다고 하자.

수술에는 어려운 심장 수술과 쉬운 붕대 제거가 있다고 하자.

Dr. Hibbert

• 심장 수술 90회 → 70회 성공
• 붕대 제거 10회 → 10회 성공
• 전체 100회 중 80회 성공 → 성공률 $80\%$

Dr. Nick

• 심장 수술 10회 → 2회 성공
• 붕대 제거 90회 → 81회 성공
• 전체 100회 중 83회 성공 → 성공률 $83\%$

전체적으로 보면 Nick의 성공률이 $83\%$로 Hibbert의 $80\%$보다 높다.

하지만 수술 종류별로 보면 결과가 반대다.

• 심장 수술: Hibbert $70/90$ > Nick $2/10$
• 붕대 제거: Hibbert $10/10$ > Nick $81/90$

즉, 각 수술 종류에서는 Hibbert가 더 뛰어나지만 전체적으로는 Nick이 더 뛰어나 보인다.

---

왜 이런 일이 발생하는가?

두 의사가 담당한 수술의 비율이 다르기 때문이다.

Hibbert는 어려운 심장 수술을 대부분 담당했고, Nick은 쉬운 붕대 제거를 대부분 담당했다.

따라서 전체 성공률은 단순히 각 집단의 성공률을 평균내는 것이 아니다.

각 집단의 크기가 다르기 때문에 가중평균이 된다.

---

확률로 표현하기

다음과 같이 정의하자.

• $A$: 수술 성공
• $B$: Nick이 수술함
• $B^c$: Hibbert가 수술함
• $C$: 심장 수술
• $C^c$: 붕대 제거

수술 종류별로 보면 $P(A\mid B,C)<P(A\mid B^c,C)$이고 $P(A\mid B,C^c)<P(A\mid B^c,C^c)$이다.

하지만 전체를 보면 $P(A\mid B)>P(A\mid B^c)$가 된다.

즉, 조건을 걸었을 때의 비교와 조건을 제거했을 때의 비교가 뒤집힌다.

---

전체확률법칙과 Simpson's Paradox

Nick의 전체 성공 확률은 $P(A\mid B)=P(A\mid B,C)P(C\mid B)+P(A\mid B,C^c)P(C^c\mid B)$이다.

Hibbert의 전체 성공 확률은 $P(A\mid B^c)=P(A\mid B^c,C)P(C\mid B^c)+P(A\mid B^c,C^c)P(C^c\mid B^c)$이다.

여기서 중요한 것은 각 수술 종류가 전체 수술에서 차지하는 비율, 즉 가중치가 서로 다르다는 것이다.

예를 들어 Nick은 쉬운 붕대 제거를 90%, 어려운 심장 수술을 10% 담당했다고 하자.
반면 Hibbert는 어려운 심장 수술을 90%, 붕대 제거를 10% 담당했다고 하자.

따라서 Nick의 전체 성공률에서는 붕대 제거 성공률이 90%의 비중을 차지하고, Hibbert의 전체 성공률에서는 심장 수술 성공률이 90%의 비중을 차지한다.

즉, 두 의사가 각각의 수술에서 기록한 성공률뿐만 아니라 어떤 수술을 얼마나 많이 담당했는지가 전체 성공률에 영향을 준다.

이처럼 집단별 성공률에 적용되는 비중이 서로 다르기 때문에, 각 집단에서는 Hibbert가 더 좋은데도 전체적으로는 Nick이 더 좋아 보이는 Simpson's Paradox가 발생할 수 있다.

---

분수의 덧셈으로 이해하기

예를 들어 $1/3+2/5$를 계산한다고 해서 $3/8$이 되는 것은 아니다.

전체 성공률도 마찬가지다.

각 집단의 성공률을 단순히 더하거나 평균내는 것이 아니라,

전체 성공 횟수 / 전체 시행 횟수

로 계산해야 한다.

따라서 집단의 크기가 다르면 각 집단의 성공률에 서로 다른 가중치가 적용된다.

이러한 가중치의 차이가 Simpson's Paradox의 핵심이다.

---

다른 예시

야구

한 선수가 각 시즌에서 다른 선수보다 항상 높은 타율을 기록했더라도, 여러 시즌의 기록을 합치면 다른 선수가 더 높은 타율을 기록할 수 있다.

두 선수의 시즌별 타수의 비율이 다르기 때문이다.

UC Berkeley 대학원 입학

전체 입학률만 보면 성별에 따른 차이가 나타날 수 있지만, 학과별로 나누어 보면 전체 결과와 다른 패턴이 나타날 수 있다.

학과마다 경쟁률과 지원자 구성의 차이가 있기 때문이다.

---

핵심 정리

Simpson's Paradox의 핵심은 집단별 비교와 전체 비교에서 가중치가 달라질 수 있다는 것이다.

따라서 어떤 통계적 결과를 해석할 때는 단순히 전체 결과만 보는 것이 아니라, 결과에 영향을 줄 수 있는 변수를 기준으로 집단을 나누어 확인할 필요가 있다.

출처
부스트코스
Statistics 110