작성일 · · 최종 검토일 · · 6분

한국어 · English

몬티 홀 문제: 문을 바꾸면 3분의 2로 이기는 이유

문이 세 개 있습니다. 하나의 뒤에는 자동차가, 나머지 둘의 뒤에는 염소가 있습니다. 당신이 한 문을 고르면, 문 뒤를 아는 사회자가 나머지 두 문 가운데 염소가 있는 문 하나를 열어 보여 줍니다. 그리고 묻습니다. "선택을 바꾸시겠습니까?" 바꿔야 할까요? 많은 사람이 "남은 문이 둘이니 확률은 반반, 바꿔도 소용없다"고 답합니다. 정답은 바꾸면 3분의 2, 안 바꾸면 3분의 1입니다. 이 문제는 수학자들마저 의견이 갈렸던 것으로 유명합니다. 이 글은 왜 반반이 아닌지를 세 가지 방법으로 보여 주고, 결론이 어떤 가정 위에 서 있는지를 분명히 합니다.

문제의 내력

이 문제는 생물통계학자 스티브 셀빈이 1975년 학술지 The American Statistician에 보낸 편지에서 처음 제시하고 풀었다고 알려져 있고, "몬티 홀 문제"라는 이름도 그의 후속 편지에서 붙었다고 합니다. 널리 알려진 계기는 1990년 9월 9일 마릴린 보스 사반트가 잡지 Parade의 칼럼에서 독자의 질문에 "바꾸라"고 답한 것입니다. 이 답변에는 수많은 반박 편지가 왔다고 전해집니다. 리처드 길은 이 문제가 단순한 확률 퍼즐이 아니라 사회자의 행동에 대한 가정이 결과를 좌우하는 문제라고 지적했습니다. 이 글은 이런 내력을 2차 자료의 요약으로만 확인했고 논문 전문은 읽지 못했으므로, 아래는 역사가 아니라 수학에 집중합니다.

먼저 직접 돌려 보기

문의 개수를 고르고 버튼을 누르면 2만 판을 두 전략으로 플레이합니다. 3개의 문에서는 바꾸지 않을 때 약 33%, 바꿀 때 약 67%가 나옵니다.

이 도구는 자바스크립트가 필요합니다.

문을 5개, 10개, 100개로 늘리면 바꾸지 않을 때의 이론값은 1/문 개수(20%, 10%, 1%)이고 바꿀 때는 (문 개수 − 1)/문 개수(80%, 90%, 99%)입니다. 이 시뮬레이터는 사회자가 고른 문 외 모든 염소 문을 열고 한 문만 남기는 일반화된 규칙을 씁니다.

방법 1: 경우를 모두 나열한다

자동차가 1번 문 뒤에 있고 내가 처음에 1번, 2번, 3번 중 하나를 고르는 경우를 생각해 봅시다. 처음 선택이 세 가지로 똑같이 가능하므로 아래 세 경우는 각각 확률 1/3입니다.

자동차가 1번 문에 있을 때, 나의 처음 선택에 따른 결과
내 처음 선택사회자가 여는 문바꾸지 않으면바꾸면
1번 (자동차)2번 또는 3번 (염소)이김짐
2번 (염소)3번 (염소)짐이김
3번 (염소)2번 (염소)짐이김

바꾸지 않으면 첫 번째 경우에서만 이기고, 바꾸면 두 번째와 세 번째 경우에서 이깁니다. 삼분의 일 대 삼분의 이입니다. 핵심은 사회자가 무작위로 문을 연 것이 아니라 내가 고르지 않은 두 문 중 염소가 있는 쪽을 골라서 열었다는 점입니다. 내가 처음에 염소를 골랐다면(확률 2/3) 사회자는 선택의 여지 없이 나머지 염소 문을 열 수밖에 없고, 남은 문은 반드시 자동차입니다.

방법 2: 정보가 어디에 모이는가

처음에 고른 문이 맞을 확률은 1/3이고, 나머지 두 문을 합친 확률은 2/3입니다. 사회자는 그 두 문 중 하나를 열어 염소임을 보여 줍니다. 그러면 "두 문을 합친 2/3"가 남은 한 문으로 몰립니다. 내가 고른 문은 아무 정보도 받지 못했으므로 여전히 1/3이고, 사회자의 행동으로 정보를 받은 것은 남은 문입니다. 100개의 문에서 이 직관이 더 선명해집니다. 내가 하나를 고르고 사회자가 98개의 염소 문을 열어 한 문만 남겼다면 남은 그 문이 자동차일 확률은 99/100입니다. 그때 "둘 중 하나니 반반"이라고 믿기는 어렵습니다.

방법 3: 조건부 확률로

세 문 문제를 조건부 확률 식으로 쓰면 이렇습니다. 내가 1번을 골랐고 사회자가 3번을 열었다고 합시다. 사회자의 행동 규칙은 "염소가 있는 문을 열되, 선택이 둘이면 반반"입니다.

"3번을 열었다"는 사건의 전체 확률은 1/6 + 1/3 = 1/2입니다. 그중 자동차가 1번에 있는 몫은 (1/6) ÷ (1/2) = 1/3, 2번에 있는 몫은 (1/3) ÷ (1/2) = 2/3입니다. 바꾸면 2번 문을 고르게 되어 2/3로 이깁니다. 이 계산은 검사 양성 결과의 해석과 똑같은 틀, 곧 베이즈 정리를 사용합니다.

결론이 서 있는 가정

이 문제가 논쟁을 낳은 이유는 문제 문장에 적히지 않은 가정이 결과를 바꾸기 때문입니다. 3분의 2라는 답은 다음을 전제합니다.

  1. 사회자는 자동차가 어디 있는지 안다.
  2. 사회자는 항상 내가 고르지 않은 문 중 염소가 있는 문을 연다(자동차를 절대 열지 않는다).
  3. 사회자가 염소 문 둘 중 하나를 고를 수 있을 때는 어느 쪽이든 같은 확률로 고른다.
  4. 사회자는 항상 바꿀 기회를 준다.

이 가정이 하나씩 깨지면 답이 달라집니다.

그러므로 "바꾸는 것이 항상 이긴다"가 아니라 "위 가정이 성립하면 바꾸는 쪽이 2/3로 이긴다"가 정확한 진술입니다. 여기서 성립한다는 것은 2/3라는 평균 비율이지, 한 판에서 바꾸면 반드시 이긴다는 뜻이 아닙니다.

왜 이렇게 직관이 틀리나

다른 글과의 연결

몬티 홀 문제의 교훈은 앞서 본 생일 문제와 같은 줄기에 있습니다. 직관이 틀리는 지점은 "사건이 어떻게 만들어졌는가"를 빼 놓고 결과만 세는 데에 있습니다. 또 이 글의 조건부 확률 계산은 다음 글에서 검사 결과를 해석할 때 그대로 쓰입니다. 복권에서는 같은 구조를 도박사의 오류에서 볼 수 있습니다. 거기서는 이전 결과가 다음 결과에 정보를 주지 않았지만, 몬티 홀에서는 사회자의 행동이 정보를 줍니다. 정보를 주는지 아닌지의 구분이 두 문제의 차이입니다.

연습 문제

  1. 문이 4개이고 자동차는 하나입니다. 내가 한 문을 고르고, 사회자가 나머지 세 문 중 염소가 있는 문 하나를 엽니다. 이제 닫힌 문은 내 문을 포함해 3개입니다. 안 바꾸면 이길 확률은? 남은 두 문 중 하나로 바꾸면 이길 확률은?
  2. 같은 4개의 문에서 사회자가 염소 문을 두 개 열어 한 문만 남겼다면 바꿀 때 이길 확률은?

답: (1) 안 바꾸면 1/4입니다. 내가 틀렸을 확률 3/4이 남은 두 문에 똑같이 나뉘므로 한 문으로 바꾸면 3/4 × 1/2 = 3/8입니다. 남은 두 문과 내 문을 합치면 3/8 + 3/8 + 1/4 = 1이 됩니다. (2) 3/4입니다. 시뮬레이터에서 문을 4개로 둔 경우와 같은 일반화된 규칙(한 문만 남기는 경우)이며 (4−1)/4 = 3/4입니다.

이 연습이 보여 주는 점은 몬티 홀의 결론이 "바꾸는 쪽이 항상 2/3"라는 숫자가 아니라 "사회자가 보여 준 정보가 어디로 집중되는가"라는 원리라는 것입니다. 열린 문이 늘어날수록 남은 닫힌 문에 정보가 몰립니다. 같은 원리로 문이 100개일 때 바꾸면 99%인 이유도 설명됩니다.

한계

출처와 확인 상태