몬티홀 문제: 문을 바꾸면 확률이 두 배가 되는 이유

1990년, 한 독자가 매릴린 보스 사반트의 잡지 칼럼에 게임 쇼에 관한 짧은 질문을 보냈습니다. 문을 바꿔야 한다는 그녀의 답변은 약 1만 통의 항의 편지를 불러왔고, 그중 1천 통 가까이에는 박사들의 서명이 있었으며, 상당수는 칼럼니스트가 기초 확률을 틀리면 안 된다고 목소리를 높였습니다. 그녀는 틀리지 않았습니다. 틀린 쪽은 그들이었습니다.

바로 이것이 몬티홀 문제에 시간을 들일 가치가 있는 이유입니다. 함정 문제가 아니고, 깨알 같은 단서 조항에 기대지도 않습니다. 세 줄이면 설명이 끝나는 완전히 공정한 퍼즐인데, 전문 수학자를 포함한 지적인 사람들의 직관을 어김없이 무너뜨립니다. 그들이 놓친 하나의 비대칭을 볼 때까지는요. 일단 그것을 보고 나면, 답은 역설처럼 느껴지기를 멈추고 필연처럼 느껴지기 시작합니다.

게임의 규칙

이 퍼즐은 게임 쇼 Let's Make a Deal을 모델로 하며, 초대 진행자 몬티 홀의 이름을 땄습니다. 설정은 이렇습니다.

닫힌 문이 세 개 있습니다. 하나 뒤에는 자동차가, 나머지 두 개 뒤에는 염소가 있습니다. 자동차는 무작위로 배치되었으므로, 아무 일도 일어나기 전에는 각 문이 자동차를 숨기고 있을 확률이 1/3씩입니다.

당신이 문 하나를 고릅니다. 1번 문이라고 합시다. 그 문은 닫힌 채로 있습니다.

자동차가 정확히 어디에 있는지 아는 진행자가 당신이 고르지 않은 두 문 중 하나를 열되, 항상 염소가 있는 문을 엽니다. 3번 문을 열었더니 염소가 당신을 바라본다고 합시다.

이제 두 개의 문이 닫혀 있습니다. 당신의 1번 문과 손대지 않은 2번 문입니다. 진행자가 선택권을 줍니다. 1번 문에 머무르거나, 2번 문으로 바꾸거나.

거의 모든 사람의 직감은 같은 말을 합니다. 문 두 개에 자동차 한 대, 50/50이니 상관없다고. 그 직감이 틀렸습니다. 머무르면 1/3의 확률로 이깁니다. 바꾸면 2/3의 확률로 이깁니다. 바꾸는 것은 말 그대로 확률을 두 배로 만들며, 이 퍼즐의 전부는 그 추가 확률이 어디에서 오는지 이해하는 것입니다.

증명은 그저 세는 일입니다

답을 보는 가장 깔끔한 방법은 게임 전체가 단 하나의 사건, 즉 첫 선택이 맞았는지 여부로 결정된다는 점을 알아차리는 것입니다.

이것이 증명의 전부입니다. 머무르는 것은 눈감고 한 첫 추측이 맞았다는 데 거는 것이고, 그것은 1/3짜리 사건입니다. 바꾸는 것은 그 추측이 틀렸다는 데 거는 것이고, 그것은 2/3짜리 사건입니다. 선택지는 이 둘뿐이고, 둘은 박빙이 아닙니다.

모든 경우를 늘어놓고 보고 싶다면, 당신의 선택을 1번 문으로 고정하고 자동차의 위치를 바꿔 보세요. 자동차가 1번 문 뒤에 있으면, 진행자는 2번이나 3번 문을 열고, 머무르면 이기고 바꾸면 집니다. 자동차가 2번 문 뒤에 있으면, 진행자는 3번 문을 열 수밖에 없고, 머무르면 지고 바꾸면 이깁니다. 자동차가 3번 문 뒤에 있으면, 진행자는 2번 문을 열 수밖에 없고, 머무르면 지고 바꾸면 이깁니다. 가능성이 같은 세 개의 세계가 있고, 그중 둘에서 바꾸는 쪽이 이깁니다. 이 세기가 곧 증명입니다.

추가 확률은 어디에서 오는가

50/50이라는 직감은 평소에는 잘 통하는 경험 법칙에서 나옵니다. 미지수가 둘이고 한쪽을 선호할 이유가 없으면 확률을 똑같이 나누라는 것입니다. 법칙 자체는 훌륭합니다. 실수는 닫힌 두 문이 대칭이라고 생각하는 데 있습니다. 두 문은 대칭이 아닙니다. 서로 아주 다른 역사를 거쳐 왔기 때문입니다.

당신의 문은 아무것도 밝혀지기 전에, 당신이 눈감고 고른 것입니다. 그 후에 일어난 어떤 일도 당신의 문과는 무관했습니다. 자동차를 숨기고 있든 아니든 진행자는 그 문을 건드릴 수 없었으니까요. 따라서 당신의 문에 대한 정보는 전혀 생산되지 않았고, 그 확률은 처음 그대로 1/3에 머뭅니다.

다른 닫힌 문은 무언가를 통과해 살아남았습니다. 진행자는 당신이 고르지 않은 두 문, 그중 적어도 하나에는 염소가 있는 두 문을 살펴본 뒤, 그 쌍에서 의도적으로 염소 하나를 제거했습니다. 그가 닫힌 채 남긴 문은 무작위 찌꺼기이거나(당신의 선택이 맞았던 1/3의 세계에서) 자동차 그 자체입니다(당신의 선택이 틀렸던 2/3의 세계에서). 그의 선택은 진실에 의해 제약되었고, 그 제약은 정보를 흘립니다. 그 쌍이 처음에 갖고 있던 2/3의 확률 전부가 살아남은 하나의 문 위로 무너져 내립니다.

납득이 안 되는 분을 위한 100개의 문 버전

세 개의 문 논증이 여전히 미끄럽게 느껴진다면, 규모를 키워 보세요. 같은 규칙에 문 100개, 자동차 한 대, 염소 99마리입니다. 당신이 1번 문을 고릅니다. 자동차가 어디 있는지 아는 진행자가 나머지 문 중 98개를 열어 하나도 빠짐없이 염소임을 보여 주고, 다른 문 하나만 정확히 닫힌 채 남깁니다. 머무를까요, 바꿀까요?

첫 선택이 맞았을 확률은 100번 중 1번입니다. 나머지 99번의 경우에는 자동차가 당신이 고르지 않은 문들 어딘가에 있고, 진행자의 98번의 공개는 자동차를 피해 강제된 것이었습니다. 그는 자동차만 빼고 전부 열었습니다. 그가 닫힌 채 남긴 단 하나의 문은 무작위 생존자가 아닙니다. 100번 중 99번, 자동차가 있을 수밖에 없는 곳입니다.

100개의 문 게임에서 머무르는 사람은 없습니다. 그런데 세 개의 문 게임은 같은 게임입니다. 진행자의 공개는 정확히 같은 방식으로 자동차를 피해 강제되었고, 다만 지켜볼 분량이 적었을 뿐입니다. 100개의 문에서 바꾸는 것이 명백히 옳다면, 세 개의 문은 다르다고 주장하는 쪽이 입증 책임을 져야 하며, 위의 경우의 수 세기는 다르지 않다는 것을 보여 줍니다.

답을 정직하게 만드는 작은 글씨

대중적인 소개들이 대개 건너뛰는 부분이 여기 있으며, 이것이 답을 아는 것과 답을 이해하는 것의 차이입니다. 2/3라는 결과는 당신이 본 장면이 아니라 진행자의 행동 방식에 달려 있습니다.

표준 규칙은 진행자가 항상 문을 열고, 항상 염소를 공개하며, 항상 바꿀 기회를 준다고 가정합니다. 이 규칙을 바꾸면 답도 바뀝니다. 고전적인 변형은 몬티 폴(Monty Fall)이라고 불리기도 합니다. 진행자가 발을 헛디뎌 고르지 않은 두 문 중 하나를 완전히 무작위로 열었는데, 하필 염소가 나온 경우입니다. 같은 문, 같은 염소, 화면에 보이는 그림도 같습니다. 그러나 이제 바꿔도 이길 확률은 1/2뿐입니다.

왜 차이가 날까요? 표준 게임에서는 진행자가 모든 세계에서 염소를 공개하므로, 그 공개는 당신의 선택이 맞았는지에 대해 아무것도 말해 주지 않고, 당신의 문은 1/3에 머뭅니다. 몬티 폴에서는 무작위로 여는 진행자가 때때로 실수로 자동차를 노출합니다. 이제 염소를 보았다는 것 자체가 증거이며, 그것도 당신의 원래 선택에 유리한 증거입니다. 당신의 선택이 맞았던 세계에서는 자동차가 노출되는 일이 애초에 일어날 수 없기 때문입니다. 숫자를 따져 보면 두 닫힌 문은 정말로 각각 1/2에 이릅니다.

직접 해 보세요, 누구나 한 번은 해 볼 만하니까요

몬티홀 문제에는 커다란 자비가 하나 있습니다. 검증 비용이 싸다는 것입니다. 컵 세 개와 동전 하나를 준비해 친구에게 진행자를 맡기거나, 몇 줄의 코드로 직접 시뮬레이션하거나, 주사위로 자동차 위치를 정해 종이 위에서 해 보세요. 항상 머무르며 서른 판, 그다음 항상 바꾸며 서른 판을 해 봅니다.

그 결과는 논증이 주지 못하는 방식으로 묘하게 설득력이 있습니다. 머무르는 쪽은 대략 3분의 1의 승률로, 바꾸는 쪽은 대략 3분의 2로 수렴하며, 판이 충분히 쌓이면 그 패턴은 역설처럼 느껴지기를 멈추고 위의 1단계가 낳는 뻔한 결과처럼 느껴지기 시작합니다. 눈감고 한 첫 선택은 대개 틀리고, 바꾸는 것은 정확히 그 사실을 현금화합니다. 많은 시행에 걸쳐 계산된 평균은 애초에 확률 명제가 의미를 얻는 곳이기도 하며, 이 점은 통계를 직관적으로 이해하기에서 다룹니다.

역사적으로도 논쟁은 이렇게 정리되었습니다. 보스 사반트를 둘러싼 격론 이후 전국의 교실에서 이 실험이 이루어졌고, 시뮬레이션은 누가 돌려 보든 원하는 소수점 자리까지 2/3를 확인해 주었습니다. 분노의 편지를 보냈던 수학자 중 많은 이들이 두 번째, 조금 머쓱해진 편지를 보냈습니다.

그 속의 선(禪)

몬티홀 문제가 오래 살아남은 것은, 확률이 실제로 작동하는 방식과 인간의 직관이 실제로 실패하는 방식의 완벽한 축소판이기 때문입니다. 이 퍼즐이 무너뜨리는 직관, 즉 닫힌 두 문에 대한 대칭적 무지는 좋은 직관입니다. 다만 비대칭적인 역사와 만나면 살아남지 못할 뿐이고, 퍼즐은 그 비대칭을 눈앞에 훤히 숨겨 둡니다. 한 문은 당신의 선택으로 보호되었고, 다른 문은 답을 아는 누군가에 의해 골라졌습니다.

혼란을 해소한 것이 무엇이었는지 눈여겨보세요. 공식도 아니고 권위도 아니었습니다. 세기였습니다. 가능성이 같은 세 개의 세계, 각 세계에서 무슨 일이 일어나는지에 대한 정직한 집계, 그리고 느낌보다 집계를 믿으려는 의지. 가능성을 나열하고 세는 이 한 수가 확률의 거의 전부이며, 그것은 배울 수 있는 것입니다.

다음에 두 선택지가 명백히 50/50처럼 느껴질 때, 몬티홀의 질문을 던져 볼 가치가 있습니다. 이 두 가능성은 같은 길을 거쳐 여기까지 왔는가? 때로는 그렇고, 그때의 동전 던지기는 진짜입니다. 그리고 때로는 그중 하나가 무언가를 알고 있던 과정에 의해 홀로 남겨진 것이고, 그때의 승산은 조용히, 그러나 결정적으로 한쪽으로 기울어 있습니다.

문은 기억하지 않습니다. 절차가 기억합니다.