심슨의 역설이란? 뜻과 예시, 수학적 원리 정리

🧮 생활 속 수학

심슨의 역설은 부분마다 성립하던 경향이 전체를 합치면 뒤집히는 통계 현상입니다. 버클리 입학 사례와 신장결석 치료 예시로 뜻과 수학적 원리, 조건부 확률로 보는 판별법을 정리합니다.

심슨의 역설(Simpson's paradox)이란, 자료를 몇 개의 그룹으로 나누어 보면 모든 그룹에서 A가 B보다 좋은데, 그룹을 합쳐 전체로 보면 오히려 B가 A보다 좋아 보이는 현상을 말합니다. 계산 실수가 아니라 비율을 더하는 방식 자체에서 생기는 정상적인 수학 현상이며, 원인은 그룹별 인원 차이, 즉 가중치에 있습니다.

심슨의 역설 뜻, 한 문장으로 정리하면

심슨의 역설 뜻을 가장 짧게 말하면 "부분의 경향과 전체의 경향이 반대로 나오는 것"입니다. 이름은 1951년 이 현상을 정리한 통계학자 에드워드 심슨(Edward H. Simpson)에게서 왔지만, 비슷한 관찰은 20세기 초 칼 피어슨과 조지 율의 논문에도 이미 등장하기 때문에 율-심슨 효과라고 부르기도 합니다.

핵심은 비율은 분수라는 점입니다. 두 그룹의 합격률을 합칠 때 우리는 분수끼리 더하는 것이 아니라 분자끼리, 분모끼리 따로 더합니다. 그래서 인원이 많은 그룹의 비율이 전체 비율을 끌고 가고, 두 비교 대상이 서로 다른 그룹에 몰려 있으면 순위가 뒤집힐 수 있습니다. 심슨의 역설은 바로 이 "분수의 덧셈은 평범한 덧셈이 아니다"라는 사실이 현실 자료에서 드러난 모습입니다.

심슨의 역설 예시 1: 버클리 대학원 입학 사례

심슨의 역설 실제 사례로 가장 자주 인용되는 것이 1973년 UC 버클리 대학원 입학 자료입니다. 그해 지원자 전체를 보면 남성 지원자의 약 44%가 합격한 반면 여성 지원자는 약 35%만 합격했습니다. 숫자만 보면 여성 지원자에게 불리한 심사가 있었다고 의심할 만한 차이였고, 실제로 대학은 차별 여부를 조사받았습니다.

그런데 통계학자 피터 비켈 연구팀이 학과별로 자료를 나누어 보자 그림이 달라졌습니다. 규모가 큰 학과 대부분에서 여성 합격률이 남성과 비슷하거나 오히려 높았습니다. 전체 합격률이 뒤집힌 이유는 지원 학과의 분포였습니다. 남성은 합격률이 높은 공학 계열 학과에 많이 지원했고, 여성은 경쟁이 치열해 합격률이 낮은 인문사회 계열 학과에 많이 지원했던 것입니다. 학과라는 숨은 변수가 성별과 합격률 양쪽에 동시에 영향을 주고 있었고, 이것이 심슨의 역설 버클리 사례의 전말입니다.

심슨의 역설 예시 2: 신장결석 치료법 비교

심슨의 역설 사례 중 의료 분야의 고전은 1986년 영국에서 발표된 신장결석 치료 성적 비교입니다. 개복 수술(A)과 경피적 신쇄석술(B)을 각각 350명에게 시행한 결과, 전체 성공률은 A가 78%(273명), B가 83%(289명)로 B가 더 좋아 보였습니다.

그러나 결석 크기로 나누면 결과가 뒤집힙니다. 작은 결석에서는 A가 93%(87명 중 81명), B가 87%(270명 중 234명)로 A가 우세했고, 큰 결석에서도 A가 73%(263명 중 192명), B가 69%(80명 중 55명)로 역시 A가 우세했습니다. 작은 결석에서도, 큰 결석에서도 A가 낫지만 전체를 합치면 B가 나아 보이는 것입니다. 이유는 간단합니다. A는 치료가 어려운 큰 결석 환자에게 주로 쓰였고(263명), B는 치료가 쉬운 작은 결석 환자에게 주로 쓰였습니다(270명). 어려운 환자를 많이 맡은 쪽의 전체 성적이 낮게 나오는 것은 실력이 아니라 가중치의 문제입니다.

작은 결석

A 81/87 = 93% 〉 B 234/270 = 87%

큰 결석

A 192/263 = 73% 〉 B 55/80 = 69%

전체 합산

A 273/350 = 78% 〈 B 289/350 = 83%

뒤집힌 이유

A는 큰 결석에, B는 작은 결석에 몰려 있어 가중치가 달랐다

심슨의 역설 수학적 원리: 분수의 덧셈이 문제다

심슨의 역설 수학적 원리는 분수 두 개를 "합칠" 때 생기는 매개 합(mediant)의 성질로 설명됩니다. 두 그룹의 비율이 각각 $a/b$와 $c/d$일 때, 전체 비율은 두 분수의 평균이 아니라 다음과 같이 계산됩니다.

$$\frac{a}{b} > \frac{c}{d}, \quad \frac{A}{B} > \frac{C}{D} \quad \text{이지만} \quad \frac{a+A}{b+B} < \frac{c+C}{d+D} \ \text{일 수 있다}$$

심슨의 역설이 성립하는 부등식 구조

여기서 $a/b$, $c/d$는 첫 번째 그룹에서 두 대상의 비율이고, $A/B$, $C/D$는 두 번째 그룹에서의 비율입니다. 각 그룹 안에서는 앞쪽 대상이 앞서지만, 분자와 분모를 각각 더한 전체 비율에서는 순서가 바뀔 수 있다는 뜻입니다. 전체 비율은 그룹별 비율의 가중평균이라서, 이를 풀어 쓰면 원리가 더 잘 보입니다.

$$\frac{a+A}{b+B} = \frac{b}{b+B}\cdot\frac{a}{b} + \frac{B}{b+B}\cdot\frac{A}{B}$$

전체 비율 = 그룹 인원 비중을 가중치로 한 그룹별 비율의 평균

$b/(b+B)$와 $B/(b+B)$가 가중치입니다. 두 비교 대상의 가중치가 같다면 부분에서 앞선 쪽이 전체에서도 반드시 앞섭니다. 하지만 한쪽은 비율이 낮은 그룹에, 다른 쪽은 비율이 높은 그룹에 인원이 몰려 있으면 가중치가 달라지고, 그때 심슨의 역설이 나타납니다. 신장결석 예시에서 A의 가중치는 큰 결석 쪽에 75%, B의 가중치는 작은 결석 쪽에 77%가 실려 있었습니다.

조건부 확률 기호로 쓰면, 그룹 변수 $Z$가 있을 때 모든 $z$에 대해 $P(Y \mid X, Z=z) > P(Y \mid X', Z=z)$이면서도 $P(Y \mid X) < P(Y \mid X')$가 될 수 있습니다. 심슨의 역설 조건부 확률 표현은 결국 $Z$의 분포가 $X$에 따라 다를 때 $Z$를 무시하고 합산하면 안 된다는 경고입니다.

전체와 부분 중 무엇을 믿어야 할까

심슨의 역설에서 정말 어려운 질문은 "어느 쪽 숫자가 맞느냐"입니다. 두 숫자 모두 산술적으로는 맞습니다. 답은 숨은 변수 $Z$가 무엇이냐에 달려 있습니다. 결석 크기처럼 치료 선택보다 먼저 정해지는 원인 변수라면 부분으로 나눈 결과를 믿어야 합니다. 큰 결석이라는 조건이 치료법 선택과 성공률 양쪽에 영향을 주는 교란변수이기 때문입니다.

반대로 $Z$가 비교 대상의 결과로 생긴 변수라면 나누면 안 됩니다. 예를 들어 어떤 약이 혈압을 낮춰 사망률을 줄인다고 할 때, 혈압으로 그룹을 나누어 비교하면 약의 효과 경로를 스스로 잘라내는 셈입니다. 이 경우에는 전체 자료가 맞습니다. 즉 심슨의 역설은 통계 계산으로 풀리는 문제가 아니라, 변수 사이의 인과 구조를 알아야 풀리는 문제입니다. 자료가 아무리 많아도 이 판단을 대신해 주지는 않습니다.

일상에서 심슨의 역설을 피하는 확인 습관

제가 심슨의 역설을 실감한 건 팀의 프로젝트 성공률을 비교하던 자리에서였습니다. 한 동료의 전체 성공률이 유독 낮아 보였는데, 난도별로 나눠 보니 쉬운 과제에서도 어려운 과제에서도 그 동료가 가장 높았습니다. 어려운 과제를 도맡았기 때문에 전체 숫자가 낮게 나왔던 것이지요. 그 뒤로 비율을 볼 때는 "이 사람은 어떤 조건의 일을 많이 맡았나"부터 확인하게 됐습니다.

확인 순서는 세 가지면 충분합니다. 첫째, 비율을 비교할 때 비교 대상마다 분모가 어떤 그룹으로 구성되어 있는지 봅니다. 둘째, 그룹 구성이 다르다면 그룹별 비율을 따로 나열해 봅니다. 셋째, 부분과 전체가 반대로 나오면 그룹 변수가 원인인지 결과인지 따져 어느 쪽을 믿을지 정합니다. 심슨의 역설은 뉴스의 지역별 통계, 병원별 사망률, 학교별 성적 비교처럼 비율이 등장하는 거의 모든 곳에서 나타날 수 있으므로, 이 세 단계를 습관처럼 거치는 것이 가장 실용적인 방어입니다.

결론은 한 줄입니다. 비율의 순위가 뒤집혔다면 계산이 틀린 게 아니라 가중치가 다른 것이고, 그때 믿을 숫자는 숨은 변수의 인과 위치가 정해 준다는 것, 이것이 심슨의 역설이 알려 주는 전부입니다.

함께 읽으면 좋은 글

표본오차 뜻과 계산법, 표준오차와 차이까지 정리 기댓값 뜻과 계산 공식, 생활 속 확률 판단법 수능 수학 선택과목 — 확률과 통계·미적분·기하 비교

참고 자료

Bickel, Hammel & O'Connell (1975), Sex Bias in Graduate Admissions: Data from Berkeley, Science Charig et al. (1986), Comparison of treatment of renal calculi, BMJ Stanford Encyclopedia of Philosophy — Simpson's Paradox