베이즈 정리란? 공식과 뜻, 검사 결과를 읽는 법

🧮 생활 속 수학

베이즈 정리는 새 정보를 얻었을 때 원래의 확률을 얼마나 고쳐야 하는지 알려주는 공식이다. 베이즈 정리 뜻과 공식, 조건부 확률과의 차이, 검사에서 양성이 나왔을 때 실제로 병일 확률 계산, 스팸 필터 같은 활용 사례를 숫자로 정리했다.

베이즈 정리는 새로운 증거를 봤을 때 원래 믿던 확률을 얼마나 고쳐야 하는지 계산하는 공식이다. 검사에서 양성이 나왔을 때 실제로 병일 확률, 메일이 스팸일 확률, 비 예보가 맞을 확률이 모두 이 한 줄에서 나온다. 핵심은 검사의 정확도와 내가 병일 확률은 서로 다른 숫자라는 점이다.

베이즈 정리 뜻과 공식 — 사전확률, 우도, 사후확률

베이즈 정리 뜻은 조건의 방향을 뒤집는 규칙이다. 병이 있는 사람이 검사에서 양성으로 나올 확률은 검사 회사가 임상시험으로 알려 준다. 그런데 내가 알고 싶은 것은 그 반대, 양성이 나온 내가 병이 있을 확률이다. 두 확률은 같지 않고, 하나에서 다른 하나로 건너가려면 병이 원래 얼마나 흔한지, 즉 사전확률이 필요하다. 18세기 영국 목사 토머스 베이즈가 남긴 이 규칙은 증거를 보기 전의 믿음(사전확률)에 증거가 그 믿음과 얼마나 잘 맞는지(우도)를 곱해, 증거를 본 뒤의 믿음(사후확률)으로 고쳐 쓴다.

$$P(A\mid B)=\frac{P(B\mid A)\,P(A)}{P(B)}=\frac{P(B\mid A)\,P(A)}{P(B\mid A)\,P(A)+P(B\mid A^{c})\,P(A^{c})}$$

$A$는 알고 싶은 사건(병이 있다), $B$는 관찰한 증거(양성이 나왔다)다. $P(A)$가 사전확률, $P(B\mid A)$가 우도, $P(A\mid B)$가 사후확률이고, 분모는 양성이 나오는 모든 경로를 더한 값이다. $A^{c}$는 병이 없는 경우를 뜻한다.

베이즈 정리와 조건부 확률의 차이를 묻는 검색이 많은데, 둘은 대립하는 개념이 아니다. 조건부 확률은 어떤 조건 아래에서의 확률이라는 정의 자체이고, 베이즈 정리는 그 조건과 결과를 맞바꿀 때 쓰는 계산법이다. 병일 때 양성일 확률은 조건부 확률이고, 양성일 때 병일 확률로 넘어가는 다리가 베이즈 정리다.

양성 판정이 나왔을 때 실제로 병일 확률은 얼마인가

어떤 병의 유병률이 1%이고, 검사는 병이 있는 사람의 90%를 잡아내며(민감도), 병이 없는 사람의 95%를 음성으로 제대로 판정한다(특이도)고 하자. 이 검사에서 양성이 나왔다면 실제로 병일 확률은 얼마일까. 많은 사람이 90% 근처를 떠올리지만 답은 15% 남짓이다.

1만 명을 검사한다고 생각하면 이유가 보인다. 병이 있는 사람은 100명이고 그중 90명이 양성으로 나온다. 병이 없는 사람은 9,900명인데 특이도가 95%이므로 5%, 즉 495명이 병이 없는데도 양성이 나온다. 양성 판정을 받은 사람은 모두 585명이고 그중 진짜 환자는 90명뿐이다. 90을 585로 나누면 0.154, 약 15%다. 위양성 495명이 진짜 환자 90명을 압도하기 때문에, 검사가 꽤 정확해도 흔하지 않은 병에서는 양성의 대부분이 오경보가 된다.

$$P(\text{병}\mid\text{양성})=\frac{0.90\times0.01}{0.90\times0.01+0.05\times0.99}=\frac{0.009}{0.0585}\approx0.154$$

분자는 병이 있으면서 양성인 비율, 분모에는 병이 없으면서 양성인 비율 $0.05\times0.99$가 더해진다. 이 값을 양성 예측도라고 부르며, 검사의 정확도가 아니라 유병률에 크게 좌우된다.

같은 검사라도 누가 받느냐에 따라 답이 달라진다. 증상이 있어 병원을 찾은 사람들 가운데 실제 환자가 20%라면, 같은 계산으로 양성일 때 병일 확률은 0.18을 0.22로 나눈 약 82%로 뛴다. 무증상 선별검사에서 양성이 나왔을 때 의료진이 재검사부터 권하는 이유가 여기에 있다. 검사가 나쁜 것이 아니라, 병이 드문 집단에서는 어떤 검사든 양성 예측도가 낮아진다.

왜 직관은 틀리는가 — 기저율 무시와 재검사의 힘

양성이 곧 90%라고 느끼는 착각을 기저율 무시라고 한다. 검사의 성능만 보고, 그 병이 원래 얼마나 드문지를 계산에서 빼먹는 것이다. 심리학자 게르트 기거렌처의 실험에서는 의사들에게 같은 문제를 확률로 주면 대부분이 틀렸지만, 위처럼 1만 명 중 몇 명이라는 자연빈도로 바꿔 주자 정답률이 크게 올랐다. 베이즈 정리가 어려운 것이 아니라 확률이라는 표현이 직관을 방해하는 것이다.

베이즈 정리의 진짜 힘은 갱신을 거듭할 수 있다는 데 있다. 첫 검사 뒤의 사후확률 15.4%는 두 번째 검사의 사전확률이 된다. 독립적인 재검사에서 또 양성이 나오면 분자는 0.90 곱하기 0.154, 분모에는 위양성 경로 0.05 곱하기 0.846이 더해져 사후확률은 약 77%로 올라간다. 오경보일 확률이 85%에서 23%로 줄어든 것이다. 증거가 하나 쌓일 때마다 확률은 같은 규칙으로 고쳐지고, 그래서 재검사 한 번이 첫 검사보다 훨씬 많은 것을 말해 준다.

$$P_2=\frac{0.90\times0.154}{0.90\times0.154+0.05\times0.846}=\frac{0.139}{0.139+0.042}\approx0.77$$

$P_2$는 두 번째 양성까지 본 뒤의 확률이다. 첫 결과의 사후확률 0.154가 사전확률 자리에 들어가고 나머지 계산은 첫 번째와 똑같다. 두 검사가 서로 독립이라는 가정이 필요하다.

스팸 필터와 일상 속 베이즈 정리 활용사례

메일함의 스팸 필터는 베이즈 정리를 그대로 돌린다. 받은 메일의 40%가 스팸이고, 무료라는 단어가 스팸에는 30%, 정상 메일에는 1% 확률로 등장한다고 하자. 무료가 들어 있는 메일이 스팸일 확률은 0.12를 0.126으로 나눈 약 95%다. 실제 필터는 수백 개 단어의 확률을 곱해 판정하며, 단어끼리 독립이라고 단순하게 가정하기 때문에 나이브 베이즈라고 부른다. 사용자가 스팸 버튼을 누를 때마다 단어별 확률이 갱신되니 필터는 쓸수록 똑똑해진다.

$$P(\text{스팸}\mid\text{무료})=\frac{0.30\times0.40}{0.30\times0.40+0.01\times0.60}=\frac{0.120}{0.126}\approx0.95$$

0.40은 스팸의 사전확률, 0.30과 0.01은 각각 스팸과 정상 메일에서 그 단어가 나올 우도다. 정상 메일이 더 많더라도 단어의 우도 차이가 30배라 결론이 스팸 쪽으로 기운다.

같은 구조는 곳곳에 있다. 기상청은 어제까지의 예보 확률을 오늘 관측으로 고쳐 쓰고, 자율주행차는 센서값이 들어올 때마다 자기 위치의 확률 분포를 갱신하며, 보험사는 가입자의 사고 이력을 볼 때마다 다음 해 사고 확률을 조정한다. 법정에서도 쓰인다. 어떤 증거가 우연히 일치할 확률이 100만분의 1이라는 말과 피고가 무죄일 확률이 100만분의 1이라는 말은 전혀 다른데, 이 둘을 섞는 것을 검사의 오류라고 부른다. 인공지능의 분류 모델도 출발점은 이 스팸 필터와 같은 베이즈 계산이었다.

베이즈 정리를 생활에서 쓰는 요령

어떤 결과를 받아 들었을 때 순서는 세 가지다. 먼저 그 결과를 보기 전에 확률이 얼마였는지, 기저율을 묻는다. 다음으로 검사나 증거의 두 숫자, 즉 진짜를 잡아내는 비율과 가짜를 걸러내는 비율을 따로 확인한다. 정확도 95%라는 한 숫자만으로는 계산이 안 된다. 마지막으로 증거가 하나 더 생기면 방금 구한 확률을 새 출발점으로 삼아 같은 계산을 반복한다. 결정을 내릴 때는 이 사후확률에 각 선택의 손익을 곱해 비교하면 기댓값 계산으로 이어진다.

검사 결과의 해석은 나이, 증상, 검사 종류, 가족력에 따라 사전확률 자체가 달라지므로 실제 판단은 의료진과 함께 해야 한다. 베이즈 정리가 알려 주는 것은 양성 하나에 절망하거나 음성 하나에 안심할 근거가 생각보다 약하다는 사실, 그리고 그 근거는 검사를 겹칠수록 빠르게 단단해진다는 사실이다. 고등학교 확률과 통계에서는 베이즈라는 이름 없이 조건부 확률 문제로 같은 계산이 출제된다.

몇 해 전 건강검진에서 한 항목이 양성으로 나와 재검 통보를 받은 적이 있다. 결과지를 받은 날 밤 유병률과 검사 성능을 찾아 위 계산을 그대로 해 보니 실제 확률은 10%대였고, 그 숫자를 보고서야 잠을 잘 수 있었다. 재검사는 음성이었다. 그 뒤로 검사 결과든 뉴스 속 통계든 먼저 묻는 질문이 하나 늘었다. 이 결과가 나오기 전에는 확률이 얼마였는가.

함께 읽으면 좋은 글

큰 수의 법칙이란? 뜻과 예시, 도박·보험에 숨은 원리 기댓값 뜻과 계산 공식, 생활 속 확률 판단법 조건부 확률이란? 공식과 예제, 베이즈 정리까지 정리

참고 자료

Wikipedia — Bayes' theorem Stanford Encyclopedia of Philosophy — Bayes' Theorem Gigerenzer & Hoffrage — How to improve Bayesian reasoning without instruction: Frequency formats, Psychological Review (1995) Altman & Bland — Diagnostic tests 2: predictive values, BMJ (1994)