표본오차 계산법, 여론조사 오차범위 읽는 공식과 예시

🧮 생활 속 수학

표본오차는 표본으로 모집단을 추정할 때 생기는 불확실성의 크기다. 표본오차 계산 공식과 1,000명·95% 신뢰수준의 ±3.1%p 유도, 두 후보 격차를 읽는 법을 정리했다.

표본오차는 전체가 아니라 일부만 조사했기 때문에 생기는 오차의 한계로, 비율을 추정할 때는 \(1.96\sqrt{p(1-p)/n}\)로 계산한다. 이 글은 표본오차 계산의 원리와 여론조사 오차범위를 읽는 방법을 단계별로 보여준다.

표본오차란 무엇이고 왜 생길까?

1,000명에게 물어본 결과가 5,000만 명 전체의 생각과 정확히 같을 수는 없다. 표본이 무작위로 뽑혀도 누가 뽑히느냐에 따라 결과가 조금씩 달라지기 때문이다. 이 흔들림의 크기를 확률적으로 표현한 것이 표본오차다. 여론조사 기사에서 "95% 신뢰수준에 표본오차 ±3.1%p"라는 문장이 붙는 이유가 이것이다.

표본오차는 틀렸다는 뜻이 아니라 "같은 방식으로 조사를 여러 번 반복하면 100번 중 95번은 참값이 이 구간 안에 들어간다"는 약속이다. 표본오차의 크기는 표본 수 \(n\), 응답 비율 \(p\), 신뢰수준이라는 세 가지로 결정된다.

신뢰수준을 바꾸면 계수도 바뀐다. 90% 신뢰수준이면 \(1.645\), 99% 신뢰수준이면 \(2.576\)을 곱한다. 같은 1,000명이라도 99% 신뢰수준의 표본오차는 약 ±4.1%p로 커진다. 더 확실하게 말하려면 구간을 넓혀야 하기 때문이다. 기사에서 표본오차 숫자만 비교하지 말고 신뢰수준이 같은지도 함께 확인해야 하는 이유다.

표본오차 계산 공식은 어떻게 유도될까?

표본비율 \(\hat{p}\)는 표본이 충분히 크면 평균이 \(p\), 표준편차가 \(\sqrt{p(1-p)/n}\)인 정규분포에 가깝다. 이 표준편차를 표준오차라고 부른다. 정규분포에서 평균 양쪽 \(1.96\)배 표준편차 안에 약 95%가 들어가므로, 95% 신뢰수준의 표본오차는 다음과 같다.

$$E = 1.96\sqrt{\frac{p(1-p)}{n}}$$

\(E\)는 표본오차(오차한계), \(p\)는 응답 비율, \(n\)은 표본 수

\(p(1-p)\)는 \(p=0.5\)일 때 가장 커서 \(0.25\)가 된다. 그래서 응답 비율을 모르거나 여러 문항을 한꺼번에 말해야 할 때는 가장 보수적인 값인 \(p=0.5\)를 넣어 표본오차를 계산한다. 표본 수가 1,000명이면 \(E = 1.96\times\sqrt{0.25/1000} \approx 0.031\), 즉 ±3.1%p가 나온다. 지지율이 40%였다면 \(1.96\sqrt{0.4\times0.6/1000}\approx 0.030\)으로 ±3.0%p라서 큰 차이가 없다.

표본 500명

±4.4%p

표본 1,000명

±3.1%p

표본 1,500명

±2.5%p

표본 2,000명

±2.2%p

표본 수가 늘수록 표본오차는 줄지만 속도가 느리다. \(E\)가 \(1/\sqrt{n}\)에 비례하므로 오차를 절반으로 줄이려면 표본 수를 4배로 늘려야 한다. 1,000명에서 2,000명으로 두 배를 늘려도 ±3.1%p가 ±2.2%p로 줄 뿐이다.

표본오차 때문에 몇 명을 조사해야 할까?

원하는 오차 \(E\)를 먼저 정하면 필요한 표본 수를 거꾸로 구할 수 있다. 공식을 \(n\)에 대해 풀면 \(n = (1.96/E)^2\,p(1-p)\)이고, \(p=0.5\)로 두면 \(E = 0.03\)일 때 \(n = (1.96/0.03)^2\times 0.25 \approx 1067.1\)이다. 올림해서 1,068명이 필요하다. 그래서 1,000명 남짓의 여론조사에서 ±3%p 안팎의 표본오차가 흔히 보인다.

이 공식은 모집단이 표본보다 훨씬 크다는 가정에서 나온다. 표본이 모집단의 5%를 넘는 소규모 조사라면 유한모집단 보정을 해야 하지만, 전국 단위 여론조사에서는 필요가 없다.

두 후보 격차는 표본오차 밖일 때만 의미가 있을까?

가장 흔한 오독이 여기서 생긴다. 후보 A가 42%, 후보 B가 38%이고 표본이 1,000명, 표본오차가 ±3.1%p라고 하자. 격차가 4%p이니 오차범위 밖이라고 생각하기 쉽다. 하지만 두 지지율은 같은 표본에서 나오므로 격차의 표준오차는 \(\sqrt{(p_A + p_B - (p_A - p_B)^2)/n}\)로 따로 계산해야 한다. 값을 넣으면 약 \(0.0283\)이고, 95% 구간은 \(1.96\times 0.0283 \approx 0.055\), 즉 ±5.5%p다.

격차 4%p는 ±5.5%p보다 작으므로 이 조사만으로는 누가 앞서는지 통계적으로 구분하기 어렵다. 격차의 오차범위는 개별 지지율의 오차범위보다 대략 1.8배 정도 크다는 점을 기억해 두면 기사를 읽을 때 도움이 된다.

제가 표본오차 계산을 처음 손으로 풀었을 때 가장 놀란 것도 이 대목이었다. 오차범위 안이라는 말이 "두 후보가 비슷하다"는 뜻은 되지만 "역전됐다"는 뜻은 아니며, 오차범위 밖이라는 말도 격차를 따로 계산하기 전에는 함부로 쓸 수 없다.

표본오차가 말해주지 않는 것은?

표본오차는 무작위 추출의 불확실성만 반영한다. 응답을 거부한 사람들이 특정 성향에 쏠려 있거나, 질문 문구가 유도적이거나, 연락이 닿는 사람의 구성이 모집단과 다른 경우의 편향은 표본오차에 들어 있지 않다. 그래서 조사기관은 성별, 연령, 지역별로 가중치를 두어 표본을 보정하고, 공표할 때 표본오차와 신뢰수준, 응답률을 함께 밝히도록 하는 규정이 있다.

결국 표본오차는 숫자 하나가 아니라 "표본 수가 만든 흔들림"에 대한 정직한 표시다. \(E = 1.96\sqrt{p(1-p)/n}\)라는 한 줄의 공식을 이해하면, 표본오차 ±3.1%p가 왜 1,000명이고 격차를 어떻게 읽어야 하는지가 한꺼번에 풀린다.

함께 읽으면 좋은 글

적금 이자 계산법, 단리·복리와 이자소득세 공식 정리누진세 뜻과 계산법, 누진공제 공식과 구간별 예시

참고 자료

Wikipedia - Margin of errorWikipedia - Standard error