(확률의 뒷이야기) 문을 바꾸면 정말 유리할까 — 몬티홀 문제

세 개의 문 중 하나에 자동차가 있다. 하나를 고른 뒤, 진행자가 염소가 있는 다른 문을 열어 보여주고 묻는다. ‘바꾸시겠습니까?’ 대부분의 사람은 ’바꾸나 안 바꾸나 반반 아니냐’고 생각하지만, 바꾸면 당첨 확률이 2배로 뛴다. 수학자들조차 처음엔 틀렸다고 반박했던 이 문제를 베이즈 규칙으로 풀어본다.

수학자 1,000명이 틀렸다고 반박한 문제

1990년 미국 칼럼니스트 마릴린 보스 사반트가 독자 질문에 이렇게 답했다. “세 문 중 하나를 골랐다가, 염소가 있는 다른 문이 열린 뒤에는 반드시 바꾸는 것이 유리하다.” 이 답에 박사 학위를 가진 독자 수백 명이 항의 편지를 보냈다. “확률은 50:50이다, 당신이 틀렸다”는 내용이었다. 그러나 사반트의 답이 맞았다. 직접 세 가지 경우를 나열해 보면 왜 그런지 보인다.

세 문을 모두 펼쳐 보면 보인다

문 뒤에 자동차가 A, B, C 중 어느 문에 있든, 내가 처음에 A를 고른다고 하자. 진행자는 자동차가 없는 문을 반드시 하나 열어 보여준다(진행자는 답을 알고 있다는 것이 핵심 규칙이다).

All three possible locations of the car, when the player always picks Door A first. In 2 out of 3 cases, switching after the host reveals a goat wins the car; staying wins in only 1 out of 3 cases.

내가 처음 고른 문(A)에 자동차가 있을 확률은 1/3이다. 이 경우에만 “바꾸면” 진다. 반대로 자동차가 B나 C에 있을 확률은 합쳐서 2/3인데, 이 두 경우 모두 진행자가 염소 문을 열어 “남은 문”을 가리켜 주므로, 바꾸면 반드시 이긴다. 그래서 바꾸는 전략의 승률은 2/3, 그대로 있는 전략의 승률은 1/3이다.

10만 번 시뮬레이션으로 확인하기

100,000 simulated games of the Monty Hall problem. Switching wins about 66.7% of the time, almost exactly double the 33.3% win rate from staying - matching the 2/3 vs 1/3 prediction exactly.

왜 반반이 아닌가 — 핵심은 진행자가 “알고 연다”는 것

사람들이 50:50이라고 착각하는 이유는 “문이 두 개 남았으니 반반”이라는 직관 때문이다. 그러나 이 직관이 놓치는 것은, 진행자가 무작위로 문을 연 게 아니라는 사실이다. 진행자는 답을 알고 있고, 항상 염소가 있는 문만 골라서 연다. 이 “알고 있다”는 정보가 조용히 확률을 내 쪽으로 옮겨준다. 내가 처음 고른 문은 그대로 1/3의 확률을 유지하지만, 나머지 두 문이 가졌던 2/3의 확률은 진행자가 열어준 문이 사라지면서 고스란히 “바꿀 수 있는 문” 하나에 몰린다.

몬티홀 문제를 이해하는 법

1. 문이 몇 개 남았는지가 아니라, 누가 무엇을 알고 열었는지를 보라. 무작위로 연 것과 알고서 연 것은 전혀 다른 정보다.
2. 극단적인 경우로 바꿔 생각해 보라. 문이 100개이고 내가 하나를 고른 뒤 진행자가 자동차 없는 98개를 열어준다면, 남은 한 문으로 바꾸는 게 유리하다는 게 훨씬 직관적으로 느껴진다.
3. 직접 세 가지 경우를 나열해 보라. 공식을 외우기보다 표로 그려보면 가장 빨리 이해된다.
4. “반반처럼 느껴진다”는 직관을 의심하라. 몬티홀 문제는 느낌과 계산이 가장 크게 엇갈리는 사례 중 하나다.

더 깊이: 베이즈 규칙으로 다시 풀기

강의노트 〈수리통계학 1. 확률론 — 베이즈 규칙〉의 틀로 다시 쓰면, “진행자가 문 B를 열었다”는 증거를 관찰한 뒤 “자동차가 A에 있을 확률”을 갱신하는 문제다. 사전확률은 각 문 1/3로 같지만, \(P(\text{진행자가 B를 염}\mid\text{자동차가 A})=1/2\)인 반면 \(P(\text{진행자가 B를 염}\mid\text{자동차가 C})=1\)이다(C에 있으면 진행자는 B를 열 수밖에 없다). 이 비대칭이 베이즈 갱신을 거치며 “바꾸면 2/3”라는 결론을 만든다.

SDV 관점: 직관이 멈추는 지점에서 계산이 가치를 만든다

몬티홀 문제를 둘러싼 논쟁은 요약과 추론(1~2단계)의 고전적 사례이면서, 제가 제안하는 SDV(통계적 데이터 가치화) 관점에서는 “직관과 계산이 충돌할 때 무엇을 믿을 것인가”라는 더 큰 질문을 던진다. 박사 학위를 가진 전문가들조차 직관만으로 틀린 결론에 도달했다는 사실은, 아무리 숙련된 의사결정자라도 데이터와 계산 없이 확률적 판단을 내리면 체계적으로 틀릴 수 있다는 경고다. 데이터에 가치를 더하는 통계학자의 역할은, 직관이 멈추는 지점에서 계산으로 한 걸음 더 나아가는 것이다. (SDV(데이터 가치화))

결론: 바꾸는 것이 항상 유리하다

나는 학생들에게 몬티홀 문제를 처음 설명할 때 바로 답을 주지 않는다. 대신 “문이 100개라면 어떨까”라고 되묻는다. 그러면 대부분 스스로 답에 가까워진다. 직관이 가장 자신 있게 틀리는 순간, 그 틀림을 깨는 것은 느낌이 아니라 세 줄의 표다.

참고 자료

• 1990년 마릴린 보스 사반트의 “Ask Marilyn” 칼럼 논쟁은 몬티홀 문제를 대중에 널리 알린 계기로 폭넓게 알려져 있다.
• 문제의 이름은 미국 게임쇼 “Let’s Make a Deal”의 진행자 몬티 홀(Monty Hall)에서 유래했다.