Skip to article
시리즈
베이지안, 불확실한 세계에서 판단하고 행동하는 법
글 시리즈 · 베이지안, 불확실한 세계에서 판단하고 행동하는 법

이 시리즈 계속 읽기

3편 중 1편
  1. 1편ExaRing+: 베이지안 제1부 — 침묵을 읽는 수학
  2. 2편ExaRing+: 베이지안 제2부 — 작은 증거가 판단을 바꿀 때
  3. 3편ExaRing+: 베이지안 제3부 — 당신은 당신을 알고 있는가
3편 중 1편

ExaRing+: 베이지안 제1부 — 침묵을 읽는 수학

사라진 핵잠수함, 대서양의 실종기, 종이로 싸운 암호 전쟁, 그리고 달로 간 공식

글 개요

이 글이 다루는 핵심 질문

정답을 알 수 없는 상황에서 불완전한 단서와 실패한 기록을 어떻게 다음 판단의 근거로 삼을 수 있는가?

이 글의 핵심 주장

베이지안은 현재의 믿음에서 출발해 대안 가설을 비교하고, 관측의 신뢰성과 탐지 가능성에 맞춰 판단을 갱신하는 학습의 방법이다.

깊은 대서양의 잠수함과 확률 지도를 비추는 탐사선의 빛

1. 돌아오지 않은 잠수함

1968년 5월 27일, 미국 버지니아주 노퍽 해군기지.

부두에는 가족들이 모여 있었다. 아내들은 아이의 손을 잡고 수평선을 바라보며 석 달 동안 지중해 작전을 마친 핵추진 공격잠수함 스코피온(USS Scorpion)을 기다리고 있었다. 스코피온이 오늘 돌아오기 때문이었다. 승조원은 99명이었다.

정오가 지나고 오후가 지나갔다. 바다는 비어 있었고 스코피온은 그날 돌아오지 않았다.

스코피온의 마지막 교신은 엿새 전, 대서양의 아조레스 제도 부근에서 보낸 짧은 위치 보고 후 그 뒤로 아무 소식도 없었다. 해군은 대서양 전역에 비상을 걸었고 군함과 초계기가 스코피온의 예상 항로를 따라 바다를 훑었다. 그러나 기름띠 하나, 부유물 한 조각 나오지 않았다.

미소 냉전의 시기였다. 불과 몇 달 전에는 소련과 프랑스, 이스라엘의 잠수함이 잇따라 바다에서 사라진 터였고 소련이 격침했다는 말까지 돌았다. 그러나 무엇이 일어났는지보다 더 급한 질문이 있었다.

도대체 어디에 있는가.

대서양은 넓었고 수심은 3,000미터가 넘었다. 빛 한 줄기 닿지 않는 해저에서 길이 80미터도 채 되지 않는 잠수함을 찾는 일은, 축구장 수만 개 넓이의 캄캄한 방에서 바늘 하나를 더듬어 찾는 것보다 더욱 어려운 일이었다.

해군은 한 사람을 불렀다. 해군 특수계획국의 민간인 수석과학자 존 피냐 크레이븐(John Piña Craven). 2년 전, 그는 이미 한 번 불가능을 해낸 적이 있었다.

1966년 1월, 스페인 남부의 작은 어촌 팔로마레스 상공에서 수소폭탄 네 발을 실은 미군 B-52 폭격기가 공중급유를 받던 중 급유기와 충돌했다. 하늘에서 두 대의 비행기가 불덩이가 되어 흩어졌다. 급유기의 승무원 넷은 전원 목숨을 잃었고, 폭격기의 승무원도 셋이 숨졌다. 그리고 수소폭탄 네 발이 떨어졌다. 한 발은 땅 위에서 온전히 발견되었다. 두 발은 땅에 부딪히며 재래식 기폭 장약이 터져 마을 들판에 방사성 물질을 흩뿌렸다.

마지막 한 발이 보이지 않았다.

핵폭탄 한 발이 행방불명이었다. 미국 정부는 발칵 뒤집혔고, 전 세계 언론이 스페인의 이 작은 해안으로 몰려들었다. 육지를 샅샅이 뒤졌지만 폭탄은 없었다. 남은 곳은 바다뿐이었다.

그때 결정적인 증언이 나왔다. 사고 당시 바다에서 조업 중이던 한 어부가, 낙하산에 매달린 커다란 물체가 바다로 떨어지는 것을 보았다는 것이다. 크레이븐은 이 증언을 흘려듣지 않았다. 폭탄이 떨어졌을 법한 여러 시나리오에 확률을 매기고, 어부의 목격담을 그 위에 증거로 더했다. 바다는 확률의 지도가 되었다.

수색은 쉽지 않았다. 결국 크레이븐에 의해 투입된 심해 잠수정 앨빈이 해저 경사면에서 마침내 폭탄을 찾아냈지만, 끌어올리던 중 줄이 끊어져 폭탄이 다시 깊은 곳으로 미끄러져 내려가는 일까지 벌어졌다. 결국 사고가 난 지 약 80일 만인 1966년 4월, 마지막 수소폭탄이 수면 위로 올라왔다. 어부가 가리켰던 바다였다.

그때 크레이븐이 쓴 무기는 군함도 잠수정도 아니었다. 18세기 한 시골 목사가 남긴 수학이었다. 그리고 2년 뒤, 그는 같은 무기를 들고 다시 대서양 앞에 섰다.

크레이븐에게 처음 주어진 단서는 소리였다. 대서양 곳곳에 설치된 수중 청음 기지가 정체불명의 폭발음과 무언가가 찌그러지는 굉음을 녹음해 두고 있었다. 음향 전문가 고든 해밀턴은 카나리아 제도와 뉴펀들랜드의 기록을 맞대어 그 소리가 난 곳을 좁혀 나갔다. 소리가 시작된 대략의 위치와 시각이 나왔다. 그러나 그것은 수색해야 할 바다를 조금 줄여 주었을 뿐, 잠수함이 어디에 누워 있는지 말해 주지는 않았다.

그다음, 크레이븐은 기묘한 일을 벌였다.

그는 잠수함 함장 출신 장교들, 인양 전문가, 음향 분석가, 수학자를 한 방에 불러 모았다. 그리고 스코피온이 가라앉은 이유를 여러 개의 시나리오로 나누었다. 선체에 구조적 결함이 생겼을 수 있다. 배터리가 폭발했을 수 있다. 어뢰가 발사관 안에서 오작동했을 수도 있다. 시나리오마다 잠수함이 어느 방향으로, 어떤 속도로, 얼마나 더 움직였을지가 달라졌다.

그러고는 전문가들에게 내기를 걸게 했다. 시나리오마다, 그리고 해저 지도 위의 칸마다, 이것이 진실이라고 생각하는 만큼 판돈을 걸라는 것이었다. 판돈은 스카치위스키 병이었다.

장난처럼 보였다. 하지만 이것은 장난이 아니었다. 전문가들의 머릿속에는 평생의 경험이 쌓여 있었다. 그러나 “제 생각엔 아마 이쪽일 겁니다” 같은 말로는 계산을 할 수 없다. 내기는 그 막연한 감을 끄집어내 숫자로 바꾸는 장치였다. 누가 얼마를 어디에 거는지가(odds), 곧 지도 위의 확률이 되었다.

크레이븐의 팀은 이 숫자들 위에 음향 기록을 겹치고, 시나리오별로 잠수함이 움직였을 경로를 계산했다. 바다는 칸칸이 나뉜 확률 지도가 되고 확률은 계속 업데이트(베이지안 업데이트)되었다. 어떤 칸은 붉게 타올랐고, 어떤 칸은 차갑게 식어 있었다.

탐사선 미자르(USNS Mizar)가 수중 카메라 썰매를 끌고 그 지도를 따라 바다로 나갔다. 첫 수색은 첫 폭발음이 난 곳의 서쪽, 노퍽으로 향하는 항로 쪽을 훑었다.

아무것도 없었다.

여름이 가고 가을이 왔다. 해군 안에서는 수색을 접자는 이야기가 나오기 시작했다.

그때 크레이븐은 음향 기록에서 이상한 점 하나를 붙잡았다. 첫 폭발이 일어나던 순간, 스코피온은 집으로 가는 서쪽이 아니라 정반대인 동쪽으로 움직이고 있었던 것으로 보였다. 왜 귀항하던 잠수함이 뱃머리를 돌렸을까.

크레이븐에게는 짚이는 것이 있었다. 어뢰가 발사관 안에서 저절로 작동하는 사고가 나면, 잠수함은 매뉴얼에 따라 즉시 180도 방향을 튼다. 그러면 어뢰에 달린 안전장치가 스스로 폭발을 막도록 되어 있었다. 만약 그 일이 일어났다면, 스코피온은 모두가 찾던 곳이 아니라 반대편에 누워 있을 것이다. 그것은 크레이븐의 가설이 되었다.

새로운 증거가 들어오자 지도의 색이 바뀌었다. 서쪽의 붉은 칸들이 식어 가고, 동쪽의 칸들이 달아올랐다.

1968년 10월 말, 미자르의 카메라 썰매가 동쪽 바다 깊은 곳으로 내려갔다. 해군연구소의 과학자 체스터 뷰캐넌이 직접 설계한 썰매였다. 수심 3,000미터가 넘는 해저, 아조레스 제도에서 남서쪽으로 약 740킬로미터 떨어진 곳. 모니터에 금속의 윤곽이 떠올랐다. 부서진 선체, 떨어져 나간 꼬리. 스코피온이었다.

발견 지점은 크레이븐의 팀이 가장 유력하다고 짚었던 지점에서 약 220야드, 200미터 남짓 떨어져 있었다. 사람들은 경악했다. 순수한 추론의 수학으로 3,000미터 아래 바닷속의 한 점을 찍어 낸 것이다. 더 놀라운 것은 그 오차 범위였다. 확률적으로 반올림해야 할 범위가 수백만 제곱킬로미터에 달하는 대서양에서, 최종적으로 잠수함이 있을 확률을 계산한 전체 범위는 고작 수십 제곱킬로미터에 불과했다. 그것도 정확히 잠수함이 발견된 지점을 품고 있었다.

5개월 동안 대서양은 아무 대답도 하지 않았다. 그 침묵 속에서 크레이븐의 팀이 한 일은 단 하나였다. 지금 아는 것으로 지도를 그리고, 새로운 증거가 들어올 때마다 그 지도를 고친 것. 전문가의 감은 첫 지도가 되었고, 소리는 증거가 되었고, 헛걸음한 수색마저 지도를 고치는 재료가 되었다.

스코피온이 왜 가라앉았는지는 지금도 논쟁 중이다. 그러나 어디에 있는지는, 수학이 찾아냈다.

이 수학의 이름이 베이지안(Bayesian)이다.

2. 아이는 어떻게 세상을 배우는가

갓 태어난 아기는 세상에 대해 아무것도 모른다.

아기는 컵을 밀어 본다. 컵이 떨어진다. 다시 민다. 또 떨어진다. 아기의 머릿속에 작은 가설이 생긴다. ‘물건은 밀면 떨어진다.’ 엄마의 얼굴이 보이면 젖이 온다. 울음소리를 내면 누군가 다가온다. 낯선 사람이 다가오자 엄마의 표정이 굳는다. 그렇다면 저 사람은 조심해야 할 사람일지도 모른다.

아무도 아기에게 교과서를 주지 않는다. 아기는 그저 경험한다. 그리고 그 경험 하나하나가 증거가 되어, 머릿속의 세계를 조금씩 고쳐 쓴다.

캘리포니아 대학 버클리의 심리학자 앨리슨 고프닉은 이 과정을 실험실로 가져왔다. 특정한 블록을 올려놓으면 불이 켜지고 음악이 나오는 작은 기계를 만들고, 어떤 블록이 기계를 켜는지 아이들과 대학생들에게 알아내게 했다. 규칙이 평범할 때는 둘 다 잘 맞혔다. 그런데 블록 두 개를 함께 올려야만 켜지는 낯선 규칙을 숨겨 두자, 뜻밖의 결과가 나왔다. 네다섯 살 아이들이 대학생들보다 그 규칙을 더 잘 찾아냈다. 어른들은 처음 품은 생각, ‘블록 하나가 켜는 것’이라는 생각을 증거가 바뀌어도 좀처럼 놓지 못했다. 아이들은 새 증거에 맞춰 생각을 바꾸었다.

연구진은 아이들의 추론이 놀랄 만큼 베이지안 방식에 가깝다고 보았다. 이미 19세기에 독일의 과학자 헤르만 폰 헬름홀츠는 사람의 지각이 일종의 ‘무의식적 추론’이라고 말했다. 눈에 들어온 빛의 조각에서 그 뒤에 있는 세계를 추측하고, 새로운 감각이 들어오면 그 추측을 고친다는 것이다.

우리는 태어날 때부터 베이지안이다.

다만 그 사실을 수학으로 처음 적어 낸 사람은 18세기 영국의 한 목사였다.

토머스 베이즈의 초상화

토머스 베이즈

1761년, 영국 남부의 작은 온천 마을 턴브리지웰스에서 장로교 목사 토머스 베이즈가 세상을 떠났다. 그의 유고를 정리하던 친구 리처드 프라이스는 서류 더미 속에서 미완성 원고 하나를 발견했다. 프라이스는 그 가치를 단번에 알아보았다. 그는 원고를 다듬어 1763년 영국 왕립학회에 보냈다.

원고가 던진 질문은 당시 확률론의 방향을 정반대로 뒤집는 것이었다. 원인을 알면 결과를 예측할 수 있다. 앞면이 나올 확률이 절반인 동전을 열 번 던지면 앞면이 몇 번쯤 나올지는 계산할 수 있다. 그런데 베이즈는 거꾸로 물었다. 결과만 보고 원인을 알아낼 수 있는가. 앞면이 일곱 번 나왔다는 사실만 가지고, 이 동전이 어떤 동전인지 말할 수 있는가.

이것은 아기가 매일 푸는 문제다. 그리고 크레이븐이 대서양에서 푼 문제다. 소리라는 결과에서, 보이지 않는 잠수함의 위치라는 원인을 찾아내는 것.

베이즈가 씨앗을 뿌렸다면, 그것을 거대한 나무로 키운 사람은 프랑스의 피에르시몽 라플라스였다. 젊은 시절 파리 육군사관학교의 시험관으로 한 포병 생도를 평가한 적도 있었는데, 그 생도의 이름이 나폴레옹 보나파르트였다. 라플라스는 베이즈와 독립적으로 같은 생각에 이르렀고, 그것을 강력한 계산 도구로 다듬었다. 파리에서 태어나는 남아와 여아의 비율을 따졌고, 토성과 목성의 질량을 추정했다. 훗날 황제가 된 나폴레옹이 그의 천체역학 책에 왜 신이 등장하지 않느냐고 묻자, 라플라스는 “폐하, 제게는 그런 가설이 필요하지 않았습니다”라고 답했다고 전해진다. 증거로 세계를 설명하겠다는 자신감이었다.

피에르시몽 라플라스의 초상화

피에르시몽 라플라스

그 뒤의 역사는 순탄하지 않았다. 20세기에 들어 통계학의 주류는 ‘믿음’을 계산에 넣는 이 방법을 비과학적이라며 밀어냈다. 그러나 이상한 일이 반복되었다. 강단에서 밀려날 때마다, 베이지안은 가장 절박한 현장에서 다시 불려 나왔다. 잠수함이 사라진 바다에서, 암호가 생사를 가르는 전쟁터에서, 달로 가는 로켓 안에서. 그 이야기들을 따라가기 전에, 이 생각의 엔진이 어떻게 돌아가는지 먼저 열어 보자.

블록의 조합을 바꾸며 빛이 켜지는 조건을 살펴보는 아이

처음의 생각에 머무르지 않고 새로운 관찰로 세상을 배운다.

베이즈 엔진의 세 부품

① 사전확률(Prior): 지금까지의 믿음

새로운 증거를 보기 전에 우리가 가진 판단이다. 아무리 막막해도 우리는 완전한 백지에서 출발하지 않는다. 크레이븐에게는 전문가들의 위스키 내기가 사전확률이었다. 아기에게는 어제까지의 경험이 사전확률이다. 처음의 믿음이 정확할 필요는 없다. 다만 숨기지 않고 드러내야 한다. 그래야 고칠 수 있다.

② 우도(Likelihood): 실제로 일어난 증거

현실에서 실제로 관측된 데이터, 곧 증거다. 베이즈는 이 증거 앞에서 두 가지를 묻는다. 내 가설이 맞다면, 이런 증거가 나타날 가능성은 얼마나 되는가. 그리고 내 가설이 틀렸다면, 이런 증거는 얼마나 자주 나타나는가. 증거의 힘은 이 두 대답의 차이에서 나온다. 어느 쪽에서나 흔한 증거는 아무것도 말해 주지 않는다. 한쪽에서만 유독 잘 나타나는 증거가 판단을 크게 움직인다.

③ 사후확률(Posterior): 증거로 고친 믿음

사전확률과 우도를 결합해 고친 판단이다. 그리고 여기에 베이지안의 진짜 힘이 있다. 오늘의 사후확률은 다음 증거가 도착하는 순간 내일의 사전확률이 된다. 같은 엔진이 다시 돈다. 이것이 학습이다.

수식으로 쓰면 이렇다.

P(가설∣증거)=P(증거∣가설)×P(가설)P(증거)P(\text{가설}\mid\text{증거})=\frac{P(\text{증거}\mid\text{가설})\times P(\text{가설})}{P(\text{증거})}

이 수식을 풀어 보자.

  • P(가설)P(\text{가설}): 증거를 보기 전, 가설이 맞을 거라고 믿는 정도. 사전확률이다.
  • P(증거∣가설)P(\text{증거}\mid\text{가설}): 가설이 맞다면 지금 이 증거가 나타날 가능성. 우도다.
  • P(증거)P(\text{증거}): 모든 가능성을 통틀어 이 증거가 나타날 가능성. 전체를 1로 맞춰 주는 눈금이다.
  • P(가설∣증거)P(\text{가설}\mid\text{증거}): 증거를 본 뒤의 믿음. 사후확률이다.

기호에 압도될 필요는 없다. 말로 하면 한 줄이다.

지금까지의 믿음 × 새로운 증거의 무게 → 고쳐진 믿음.

아기가 하는 일, 크레이븐이 한 일, 그리고 이제부터 만날 사람들이 한 일이 모두 이 한 줄이다.

3. 수심 3,900미터의 침묵

스코피온으로부터 41년 뒤, 같은 대서양에서 또 하나의 실종이 일어났다.

2009년 6월 1일 새벽, 리우데자네이루를 떠나 파리로 향하던 에어프랑스 447편이 대서양 한가운데에서 사라졌다. 승객과 승무원 228명을 태운 에어버스 A330이었다. 적도 부근, 거대한 뇌우 구름이 줄지어 선 구간을 지나던 중이었다. 마지막 교신 뒤 몇 분 동안 항공기는 자동 정비 메시지를 연달아 지상으로 쏟아 보냈다. 그리고 그 뒤로는 아무 소식도 없었다.

며칠 뒤 수색대는 바다 위에서 잔해와 희생자들을 찾아냈다. 그러나 그것들은 이미 며칠 동안 바람과 해류에 떠밀린 뒤였다. 발견된 자리가 곧 추락한 자리는 아니었다. 사고의 원인을 밝혀 줄 블랙박스는 동체와 함께 깊은 바다 밑으로 가라앉아 있었다.

프랑스 항공사고조사국(BEA)은 마지막으로 확인된 위치를 중심으로 반경 40해리, 약 74킬로미터의 원을 그렸다. 비행기가 마지막 신호 이후 날아갈 수 있었던 최대 거리였다. 도시 면적의 스물여덟 배에 이르는 바다. 해저는 평평한 바닥이 아니라 산맥과 골짜기가 뒤엉킨 험한 지형이었다.

수색의 첫 여름은 소리를 쫓는 싸움이었다. 블랙박스에는 수중 위치 신호기가 달려 있었다. 물에 잠기면 약 30일 동안 일정한 음파를 내보내는 장치다. 프랑스 해군의 핵잠수함과 미국 해군의 예인 음향탐지기가 그 소리를 찾아 마지막 위치 주변을 오갔다. 신호기의 배터리가 꺼질 시한이 다가올수록 수색대의 마음은 타들어 갔다.

바다는 아무 소리도 내지 않았다.

그리고 그 침묵은 하나의 결론처럼 받아들여졌다. ‘그렇게 훑었는데도 신호가 들리지 않았다면, 적어도 거기에는 없을 것이다.’ 원점 부근은 ‘이미 뒤져 본 곳’이 되었다.

수색은 음파탐지기로 해저를 직접 훑는 방식으로 바뀌었다. 해가 바뀌었고, 2010년 봄에는 무인 잠수정까지 투입한 세 번째 수색이 펼쳐졌다. 그 역시 빈손이었다. 수천만 유로가 바다에 쏟아졌다. 희생자 가족들은 기다리다 지쳐 갔고, 이제 그만 포기해야 한다는 목소리도 커져 갔다.

2010년, BEA는 마지막 카드를 꺼냈다. 미국의 분석 회사 메트론(Metron)에 지금까지의 모든 수색 결과를 종합한 확률 분석을 맡긴 것이다. 팀을 이끈 로런스 스톤은 크레이븐 시대에 시작된 베이지안 탐색의 계보를 잇는 사람이었다. 1970년대에 최적 탐색 이론의 교과서를 썼고, 1980년대 말에는 1857년 금화를 싣고 가라앉은 증기선 센트럴아메리카호를 찾는 탐색 계획을 세웠다.

스톤의 팀은 대서양을 잘게 나눈 격자로 덮고, 손에 쥔 모든 단서를 지도 위에 올렸다. 마지막으로 확인된 위치. 비행기가 날아갈 수 있는 범위. 과거 비슷한 사고에서 기체가 떨어진 곳들의 분포. 떠오른 잔해의 위치와 해류를 거꾸로 되짚은 계산. 그리고 가장 중요한 마지막 단서를 더했다.

지금까지 아무것도 찾지 못한 기록.

메트론 팀은 그 침묵을 다르게 들었다. 신호기 소리가 들리지 않았다는 사실에는 두 가지 설명이 가능했다. 비행기가 그곳에 없었거나, 신호기가 처음부터 울리지 않았거나.

이 차이가 무엇을 바꾸는지 보려면, 아주 단순한 바다를 하나 만들어 보면 된다.

실패한 수색이 남기는 것

찾는 물체가 A 구역 아니면 B 구역에 있다고 하자. 지금까지의 정보로는 A일 가능성을 80퍼센트, B일 가능성을 20퍼센트로 본다. 먼저 A를 수색했다. 그런데 장비가 완벽하지 않아서, 물체가 정말 A에 있어도 절반은 놓친다고 하자.

결과는 빈손이었다.

‘A는 아니었군. 이제 B로 가자.’ 대부분의 사람은 이렇게 생각한다. 정말 그럴까.

A에 걸었던 80 가운데 절반인 40은 ‘거기 있었는데 놓친 경우’로 살아남는다. B의 20은 그대로다. A를 뒤진 결과는 B에 대해 아무것도 말해 주지 않기 때문이다. 남은 무게는 40 대 20.

찾지 못했는데도, A에 있을 가능성은 여전히 약 66.7퍼센트다.

이번에는 장비가 훨씬 좋아서, 물체가 A에 있다면 90퍼센트는 찾아낸다고 하자. 그래도 못 찾았다면 A에 남는 무게는 80의 10퍼센트인 8이다. B의 20과 견주면, A의 가능성은 약 28.6퍼센트로 곤두박질친다.

P(A∣발견 실패)=0.8×(1−0.9)0.8×(1−0.9)+0.2×1=0.080.28≈0.286P(A\mid\text{발견 실패})=\frac{0.8\times(1-0.9)}{0.8\times(1-0.9)+0.2\times 1}=\frac{0.08}{0.28}\approx 0.286

같은 실패다. 그러나 남기는 정보는 전혀 다르다. 실패의 무게는 실패했다는 사실 자체가 아니라, 얼마나 제대로 찾았는가에 달려 있다. 철저한 수색의 실패는 지도를 크게 바꾼다. 허술한 수색의 실패는 지도를 거의 바꾸지 못한다.

다시 대서양으로 돌아가 보자. 만약 신호기가 추락의 충격으로 고장 났을 수 있다면, 첫 여름의 수색은 귀를 막고 바다를 훑은 것과 다르지 않았다. 아무리 오래, 아무리 성실하게 훑었어도 그 침묵은 거의 아무것도 말해 주지 않는다. 소리만 들었던 원점 부근의 확률은 지워질 이유가 없었다.

그 가능성을 지도에 넣는 순간, 지도의 색이 바뀌었다. 2011년 1월 메트론이 내놓은 보고서에서 가장 뜨겁게 달아오른 곳은 먼바다가 아니었다. 2년 전 모두가 ‘이미 뒤져 본 곳’이라며 지나쳐 온, 원점 바로 근처였다.

2011년 3월, 네 번째 수색이 시작되었다. 탐사선 알루시아호가 무인 잠수정 레무스 6000 세 대를 바다로 내렸다. 잠수정들은 확률 지도가 가리키는 곳을 차례로 훑어 나갔다.

4월 3일. 수색을 재개한 지 약 일주일 만이었다. 잠수정의 음파 영상에 자연에서는 생길 수 없는 직선과 형체가 떠올랐다. 수심 약 3,900미터. 엔진과 날개, 동체의 파편이 해저에 흩어져 있었다. 마지막 교신 위치에서 불과 십여 킬로미터. 2년 전 첫 여름, 수색대가 신호기의 소리를 쫓아 그 위를 지나갔던 바로 그 바다였다.

한 달쯤 뒤, 두 개의 블랙박스가 차례로 수면 위로 올라왔다. 2년 가까이 심해의 압력과 차가운 물속에 잠겨 있었는데도 기록은 살아 있었다. 세상은 비로소 알게 되었다. 얼음 결정에 속도 센서가 막히면서 시작된 혼란이, 어떻게 228명의 마지막 몇 분으로 이어졌는지를.

확률 지도가 비행기를 끌어올린 것은 아니다. 배와 잠수정, 그리고 2년 동안 바다를 떠나지 않은 사람들이 그 일을 했다.

그러나 어디를 볼 것인지를 가리킨 것은 베이지안 수학이었다.

실패한 기록을 쓰레기통에 버리지 않고, 그 실패가 정말로 무엇을 말해 주는지 다시 읽어 낸 수학.

‘그곳에 없었다’와 ‘그곳에서 찾지 못했다’ 사이에는, 바다만큼의 거리가 있었다.

4. 종이에 뚫은 구멍으로 싸운 전쟁

시간을 다시 거슬러 1940년으로 가 보자. 같은 대서양에서, 또 하나의 보이지 않는 싸움이 벌어지고 있었다.

영국은 거의 홀로 버티고 있었다. 섬나라 영국이 먹고 싸우는 데 필요한 식량과 연료, 무기는 대부분 대서양을 건너오는 수송선에 실려 왔다. 독일 해군은 그 생명줄을 끊으려 했다. 유보트들은 바다에 흩어져 있다가, 한 척이 수송선단을 발견하면 무전으로 동료들을 불러 모아 밤새 물어뜯었다. 늑대 떼라는 이름이 붙은 전술이었다. 그 모든 지휘는 무전으로 이루어졌고, 무전은 에니그마로 암호화되어 있었다.

에니그마는 타자기처럼 생긴 암호 기계였다. 키를 하나 누를 때마다 안쪽의 회전체가 한 칸씩 돌아가며 글자를 바꾸는 규칙이 매번 달라졌다. 같은 A를 두 번 쳐도 서로 다른 글자가 나왔다. 어떤 회전체를 어떤 순서로 끼울지, 각 회전체를 어느 위치에서 출발시킬지, 플러그보드의 배선은 어떻게 할지까지 합치면, 육군형 에니그마 하나만 따져도 가능한 설정은 약 1억 5,900만 조 가지였다. 해군은 회전체를 더 많이 갖고 있었으니 경우의 수는 그보다도 컸다. 그리고 이 설정은 자정마다 바뀌었다.

런던에서 북서쪽으로 80킬로미터쯤 떨어진 시골 저택 블레츨리 파크. 그중 독일 해군의 암호를 맡은 8호 막사(Hut 8)를 이끈 사람이 스물여덟 살의 수학자 앨런 튜링이었다.

앨런 튜링의 초상 사진
앨런 튜링

블레츨리 파크에는 튜링이 설계를 주도한 전기기계식 해독 장치 ‘봄브(Bombe)’가 있었다. 봄브는 암호문 일부의 원문을 짐작할 수 있을 때, 그 짐작과 모순되는 설정을 기계적으로 지워 나갔다. 독일 해군은 매일 비슷한 시각, 비슷한 형식으로 날씨를 보고했고, 보고서에는 ‘날씨’를 뜻하는 WETTER 같은 단어가 자주 들어갔다. 해독자들은 이렇게 짐작할 수 있는 원문을 ‘크립(crib)’이라 불렀다.

문제는 시간과 기계였다. 1940년의 봄브는 손에 꼽을 만큼밖에 없었다. 해군 에니그마는 여덟 개의 회전체 가운데 세 개를 골라 순서대로 끼웠다. 회전체의 순서만 따져도 8×7×6, 336가지. 이것을 봄브에 하나씩 걸어 보는 것은, 하루라는 시한 안에서는 사실상 불가능했다.

튜링은 문제를 뒤집었다. ‘모든 가능성을 시험할 수 없다면, 시험할 가치가 없는 가능성을 먼저 걸러 낼 수는 없을까.’

그 답이 ‘밴버리스무스(Banburismus)’였다. 그리고 그 무기는 놀랍게도 종이였다.

블레츨리 파크에서 멀지 않은 소도시 밴버리에서 인쇄해 온 길쭉한 종이에는 알파벳이 세로로 줄지어 찍혀 있었다. 해독자들은 같은 날 보낸 암호문 두 통을 골라, 각 글자의 위치에 맞춰 종이에 구멍을 뚫었다. 그리고 두 장을 겹쳐 불빛에 비췄다. 두 암호문에서 같은 자리에 같은 글자가 있으면, 구멍이 포개져 빛이 새어 나왔다. 해독자들은 종이를 한 칸씩 밀어 가며 빛나는 구멍의 수를 셌다.

강철 잠수함을 상대로 한 전쟁이, 종이에 뚫은 구멍에서 벌어지고 있었다.

왜 이 일치를 세었을까. 아무 관계 없는 두 글자열이라면, 같은 자리에 같은 글자가 올 확률은 26분의 1 정도다. 그런데 두 암호문이 기계의 같은 상태에서 암호화된 구간이 겹치면, 그 구간에는 원문인 독일어의 성질이 배어 나온다. 독일어는 E나 N 같은 글자를 유난히 많이 쓰기 때문에, 이때는 일치율이 대략 17분의 1로 올라간다.

차이는 미묘했다. 몇 개의 일치는 우연으로도 얼마든지 생긴다. 일치 하나로는 아무것도 확신할 수 없었다. 튜링에게 필요한 것은 그 작은 단서들을 버리지도, 부풀리지도 않고 차곡차곡 쌓는 방법이었다. 바로 베이즈의 방법이었다.

그는 질문을 이렇게 세웠다. 두 암호문이 이만큼 어긋나게 겹쳐 있다는 가설이 맞다면, 이런 일치 패턴은 얼마나 자연스러운가. 가설이 틀렸다면, 그러니까 그저 우연이라면, 이런 패턴은 얼마나 자주 나타나는가. 두 대답의 비율, 곧 우도비가 증거의 무게였다.

그리고 튜링은 이 무게에 이름을 붙였다. 밴버리 종이에서 따온 밴(ban). 1밴은 가설이 맞을 가능성과 틀릴 가능성의 비율, 곧 오즈(odds)를 열 배로 만드는 증거다. 그 10분의 1인 1데시밴은 오즈를 약 1.26배로 만든다. 튜링의 동료였던 수학자 잭 굿은 훗날, 데시밴이 사람이 직관으로 느낄 수 있는 증거의 무게 가운데 대략 가장 작은 단위라고 회고했다.

이 단위의 비밀은 덧셈에 있었다. 오즈에 증거의 비율을 곱하는 대신 그 로그를 취하면, 곱셈이 덧셈으로 바뀐다. 해독자들은 이 일치에서 몇 데시밴, 저 일치에서 몇 데시밴을 더해 가며 점수를 쌓았다. 점수가 일정한 선을 넘으면, 그 가설은 봄브에 걸어 볼 만한 후보가 되었다. 336가지의 회전체 순서는 그렇게 손에 꼽을 만큼으로 줄어들었다.

구멍 뚫린 종이를 겹쳐 작은 일치들을 살피는 전시 암호 분석가들

밴버리 종이의 작은 일치들을 비교하고 쌓아 가는 해독 작업.

강한 증거가 확신을 만들지 못할 때

숫자로 따라가 보면, 이 단위가 왜 사람의 흥분에 제동을 거는지 알 수 있다.

어떤 가설이 맞을 가능성이 10퍼센트라고 하자. 맞을 가능성과 틀릴 가능성의 비율은 1 대 9다. 여기에 1밴, 곧 그 가설 아래에서 열 배 더 잘 나타나는 강력한 증거가 들어왔다.

사후 오즈=사전 오즈×우도비19×10=109\text{사후 오즈}=\text{사전 오즈}\times\text{우도비}\qquad\frac{1}{9}\times 10=\frac{10}{9}

오즈는 10 대 9. 확률로는 약 52.6퍼센트다.

오즈의 의미와 확률로 환산하는 방법, 베이즈 인자를 이용한 갱신 계산은 『침묵의 공장』 수학 해설 「쇼트샷의 원인 확률: 베이즈 정리에서 오즈와 베이즈 인자까지」에서 자세히 다룬다.

열 배나 강한 증거를 얻었는데, 확신은 겨우 절반을 넘었을 뿐이다. 원래 가능성이 낮았던 가설이라면, 놀라운 단서 하나로는 아직 아무것도 끝나지 않은 것이다. 블레츨리 파크의 해독자들은 이 사실을 매일 몸으로 겪었다. 그래서 그들은 흥분하는 대신 점수를 더했다.

이 종이와 연필의 계산은 바다의 판도를 바꿨다. 1941년 봄과 여름, 영국 해군이 독일의 기상 관측선과 유보트에서 암호 자료를 확보하면서 8호 막사는 해군 암호를 본격적으로 읽기 시작했다. 독일 해군의 명령을 읽게 되자, 수송선단은 유보트 무리가 기다리는 바다를 피해 항로를 틀 수 있었다. 1941년 하반기, 대서양에서 가라앉는 연합국 선박의 수는 눈에 띄게 줄었다.

그러나 1942년 2월, 독일 해군이 대서양의 유보트에 회전체를 하나 더 끼운 4회전체 에니그마를 도입하자 바다는 다시 어두워졌다. 해독자들은 이 암호를 ‘상어(Shark)’라고 불렀다. 거의 열 달 동안 상어는 읽히지 않았고, 그사이 대서양의 선박 손실은 다시 치솟았다. 그해 말, 가라앉는 유보트에 뛰어들어 암호 자료를 건져 낸 영국 수병들 덕분에 상어가 다시 읽히기 시작했다. 그 수병 가운데 두 명은 끝내 배에서 빠져나오지 못했다. 블레츨리 파크의 사람들은 증거의 무게를 재는 일이 곧 사람의 목숨을 재는 일이라는 것을 누구보다 잘 알고 있었다.

전쟁이 끝난 뒤 영국 정보사의 공식 역사가 해리 힌슬리는, 블레츨리 파크의 해독이 전쟁을 적어도 2년은 단축했다고 평가했다. 그러나 이 모든 일은 수십 년 동안 국가 기밀로 묶였다. 가장 절박한 현장에서 가장 큰 성과를 낸 방법이, 가장 오래 이름 없이 남아 있었다.

5. 달로 간 공식, 그리고 당신의 주머니 속 베이즈

1960년, 헝가리 출신의 수학자 루돌프 칼만이 한 편의 논문을 발표했다. 움직이는 물체의 위치를, 불완전한 측정값들로부터 끊임없이 추정해 나가는 방법이었다. 처음에는 아무도 크게 주목하지 않았다.

그 논문의 가치를 알아본 곳은 미국 항공우주국(NASA)의 에임스 연구소였다. 그곳의 엔지니어 스탠리 슈미트는 당시 거대한 숙제를 안고 있었다. 사람을 달에 보냈다가 데려와야 했다. 38만 킬로미터를 날아가는 우주선이 지금 정확히 어디에 있고 어디로 가고 있는지를, 기억 용량이 오늘날 스마트폰 사진 한 장보다도 작은 컴퓨터로 알아내야 했다.

슈미트는 칼만의 방법을 달 탐사에 맞게 다듬었다. 그리고 이 ‘칼만 필터’는 아폴로 우주선의 항법에 들어갔다.

원리는 놀랄 만큼 베이지안이다. 우주선은 먼저 예측한다. ‘지금까지의 속도와 방향으로 보면, 지금쯤 여기에 있어야 한다.’ 사전확률이다. 그다음 측정이 들어온다. 별의 위치, 레이더의 신호. 증거다. 그런데 예측도 측정도 완벽하지 않다. 그래서 둘 중 어느 쪽을 얼마나 믿을지, 각자의 불확실성에 따라 무게를 나눈다.

새 추정=예측+K×(측정−예측),K=예측의 불확실성예측의 불확실성+측정의 불확실성\text{새 추정}=\text{예측}+K\times(\text{측정}-\text{예측}),\qquad K=\frac{\text{예측의 불확실성}}{\text{예측의 불확실성}+\text{측정의 불확실성}}

이 수식을 풀어 보자. 측정이 정밀하면 K가 커져서 새 추정은 측정 쪽으로 크게 움직인다. 측정이 엉성하면 K가 작아져서 예측을 더 믿는다. 그리고 이렇게 고친 위치가, 다음 순간의 예측이 된다. 오늘의 사후확률이 내일의 사전확률이 되는, 바로 그 엔진이다. 1969년 7월, 아폴로 11호를 달로 데려간 길 위에서도 이 엔진은 쉬지 않고 돌고 있었다.

그리고 이 엔진은 달에서 끝나지 않았다.

관성항법장치는 시간이 지날수록 오차가 쌓인다. 그래서 순항미사일은 날아가는 동안 레이더로 잰 땅의 높낮이를 저장된 지형 지도와 맞대어 보고, 목표에 다가가서는 카메라로 찍은 풍경을 위성 사진과 비교한다. 새로운 증거가 들어올 때마다 ‘지금 여기에 있을 가능성’을 고쳐 가는 것이다. 오늘날 항공기와 선박, 그리고 당신 주머니 속 스마트폰이 GPS 신호와 가속도 센서를 엮어 위치를 잡아내는 방식에도 칼만 필터의 후예들이 일하고 있다.

바다 위를 비행하는 토마호크 순항미사일

시험 비행 중인 토마호크 순항미사일. 사진: 미 해군/NARA.

2005년 10월, 미국 모하비 사막. 운전석이 텅 빈 폭스바겐 SUV 한 대가 모래 언덕과 낭떠러지가 이어진 200킬로미터가 넘는 코스를 달리고 있었다. 미국 국방부 산하 연구기관 DARPA가 연 무인 자동차 경주였다. 1년 전 같은 대회에서는 어떤 차도 결승선은커녕 코스의 몇 분의 일도 가지 못했다. 그해, 스탠퍼드 대학의 서배스천 스런 팀이 만든 ‘스탠리(Stanley)’가 6시간 53분 만에 결승선을 통과했다. 스탠리의 두뇌는 확률적 추론이었다. 레이저와 카메라가 들려주는 불완전한 증거로 ‘앞의 땅이 달릴 수 있는 길일 가능성’을 끊임없이 갱신했다. 그 기술은 오늘날 자율주행차의 출발점이 되었다.

그리고 인공지능.

2024년 노벨 물리학상은 뜻밖에도 인공신경망을 연구한 두 사람에게 돌아갔다. 존 홉필드와 제프리 힌턴. 힌턴이 1980년대에 동료들과 함께 만든 것은 ‘볼츠만 머신’이라는 신경망이었다. 이름은 19세기 오스트리아의 물리학자 루트비히 볼츠만에게서 왔다. 볼츠만은 수없이 많은 기체 분자가 어떤 상태에 있을 확률을 에너지로 설명하는 공식을 세웠다. 힌턴은 그 확률의 언어를 기계 학습에 가져왔다. 볼츠만 머신은 데이터를 보며 그 데이터가 어떤 확률 분포에서 나왔는지를 배우고, 눈에 보이는 데이터 뒤에 숨은 원인을 확률로 추론한다.

결과에서 원인으로. 250여 년 전 베이즈가 던진 바로 그 질문이다. 볼츠만 자신이 베이지안이었던 것은 아니다. 그러나 ‘불확실한 세계를 확률로 배운다’는 생각은 물리학과 베이즈와 인공지능을 하나로 꿰었다. 오늘날 기계 학습의 많은 이론이 베이즈의 언어로 쓰이는 이유다. 기계가 학습하는 방식은, 결국 아기가 학습하는 방식을 닮아 가고 있다.

달 궤도의 아폴로 우주선과 예측·관측의 보정을 표현한 항로

불완전한 예측과 측정을 결합하며 항로를 고쳐 간다.

6. 저울이 없는 세상에서

잠시 지나온 길을 돌아보자.

크레이븐은 전문가의 감을 첫 지도로 삼고, 소리와 헛걸음을 증거로 삼아 스코피온을 찾았다. 스톤의 팀은 ‘찾지 못했다’는 기록이 정말 무엇을 말하는지 다시 읽어 에어프랑스 447편을 찾았다. 튜링은 종이에 뚫은 구멍 하나하나를 증거로 쌓아 대서양의 암호를 열었다. 아폴로는 매 순간의 예측을 측정으로 고치며 달에 갔다. 그리고 아기는 오늘도, 컵을 밀어 보며 세상을 배운다.

이들 누구에게도 정답을 확인해 줄 저울은 없었다. 정답은 어둠 속에 있었고, 손에 쥔 것은 불완전한 단서와 다가오는 시한뿐이었다.

그들은 기다리지 않았다. 지금 아는 만큼으로 지도를 그렸다. 단서가 들어오면, 그 단서가 정말로 감당할 수 있는 만큼만 지도를 고쳤다. 헛걸음한 날의 기록도 버리지 않았고, 우연히 맞아떨어진 일치 하나에 들뜨지도 않았다.

베이지안은 정답을 확인한 뒤에 하는 계산이 아니다. 정답을 모르는 채로, 다음 한 걸음을 고르는 방법이다.

그리고 이 질문은 바다와 전쟁터와 우주에만 있지 않다.

공들여 보낸 제안서에 고객이 답하지 않는다. 처음 시도한 일이 기대만큼 풀리지 않는다. 새로 합류한 동료가 첫 업무를 훌륭하게 해낸다. 우리는 매일 저울 없는 결정을 내린다.

그때 우리는 침묵을 어떻게 듣고 있는가. 한 번의 실패를 ‘그곳에 없었다’로 읽고 있는가, 아니면 ‘그곳에서 아직 찾지 못했다’로 읽고 있는가. 반갑게 들어온 소식 하나에 10퍼센트였던 기대를 단숨에 90퍼센트로 올려 버리고 있지는 않은가.

이 글의 핵심

  • 베이지안은 사람이 배우는 방식 그 자체다. 지금까지의 믿음(사전확률)에서 출발해, 실제로 일어난 증거(우도)로 믿음을 고친다(사후확률). 오늘의 사후확률은 내일의 사전확률이 된다.
  • 증거의 무게는 비교에서 나온다. 내 가설이 맞을 때와 틀릴 때, 이 증거가 각각 얼마나 자주 나타나는지를 따져야 한다.
  • 실패도 증거다. 다만 그 무게는 얼마나 제대로 찾았는가에 달려 있다.
  • 강한 증거 하나가 곧 확신은 아니다. 출발점이 낮았다면, 열 배 강한 증거도 확률을 절반 남짓으로 올릴 뿐이다.

다음 편에서는 이 생각이 우리의 일상 깊숙이 들어온 이야기를 따라간다. 한 유대인 장교를 반역자로 몰았던 엉터리 확률과 그것을 무너뜨린 수학자, 170년 넘게 이름이 지워져 있던 글의 저자, 기록이 하나도 없는 운전자의 보험료, 매일 아침 편지함을 지키는 보이지 않는 문지기, 그리고 미래를 가장 잘 맞히는 평범한 사람들까지. 그리고 마지막 3편에서, 그 엔진은 마침내 당신 자신을 향한다.

오늘의 경험은 내일의 선택을 정말 바꾸고 있는가.

참고한 자료

댓글 불러오는 중

의견 남기기

…