표본오차 뜻과 계산법, 표준오차와 차이까지 정리

🧮 생활 속 수학

표본오차는 표본으로 전체를 추정할 때 생기는 최대 오차로, 95% 신뢰수준에서 1,000명을 조사하면 약 ±3.1%p가 됩니다. 공식이 어떻게 나오는지와 표준오차와의 차이를 계산까지 정리했습니다.

여론조사 기사 끝에는 늘 같은 문장이 붙습니다. "표본 1,000명, 95% 신뢰수준에 표본오차 ±3.1%p." 이 숫자가 어디서 나오는지 알면 조사 결과를 읽는 방식이 달라집니다. 공식 하나와 제곱근 하나면 직접 계산할 수 있습니다.

표본오차란 무엇인가?

중앙선거여론조사심의위원회는 표본오차를 이렇게 정의합니다. 표본조사로 추정한 결과와, 모집단 전체를 조사했을 때 얻게 될 결과의 차이. 그리고 그 차이의 95% 신뢰수준에서의 최대 오차라는 단서가 붙습니다.

여기서 두 가지가 중요합니다. 첫째, 표본오차는 실수나 조작 때문에 생기는 값이 아닙니다. 전체가 아니라 일부만 뽑아서 물었다는 사실 자체가 만들어내는 불확실성입니다. 둘째, "최대"라는 단어입니다. 실제 오차가 항상 그만큼이라는 뜻이 아니라, 정해진 신뢰수준 안에서 벌어질 수 있는 폭의 상한이라는 뜻입니다.

표본오차 공식과 1,000명이면 ±3.1%p인 이유

비율을 추정할 때 쓰는 표본오차 공식은 다음과 같습니다. $n$은 표본 크기, $p$는 추정된 비율, $z$는 신뢰수준에 대응하는 값입니다.

$$\text{표본오차} = \pm\, z \sqrt{\frac{p(1-p)}{n}}$$

95% 신뢰수준이면 $z = 1.96$을 씁니다.

문제는 $p$를 모른다는 점입니다. 조사를 하기 전에는 지지율이 얼마인지 알 수 없으니까요. 그래서 관행적으로 $p(1-p)$가 가장 커지는 값을 넣습니다. 이 곱은 $p = 0.5$일 때 $0.25$로 최대가 되고, 그래서 어떤 결과가 나오든 그 이상 커지지 않는 안전한 상한이 만들어집니다. 표본오차 표기에 "최대"가 붙는 두 번째 이유가 이것입니다.

$p = 0.5$를 넣으면 식이 아주 간단해집니다. $\sqrt{0.25/n} = 0.5/\sqrt{n}$이므로, 표본오차는 $1.96 \times 0.5 / \sqrt{n} \approx 0.98/\sqrt{n}$이 됩니다. 즉 표본 크기의 제곱근으로 1을 나눈 값에 가깝습니다. $n = 1{,}000$이면 $\sqrt{1000} \approx 31.6$이고, $0.98/31.6 \approx 0.031$, 백분율로 ±3.1%p입니다. 기사에 붙어 있던 그 숫자입니다.

같은 방식으로 계산하면 표본 500명은 약 ±4.4%p, 1,500명은 약 ±2.5%p, 2,000명은 약 ±2.2%p가 나옵니다. 신뢰수준을 99%로 올리면 $z$가 2.58로 커지므로 표본오차도 함께 커집니다. 더 확신하려면 더 넓은 폭을 감수해야 한다는 교환 관계가 공식 안에 그대로 들어 있습니다.

표본을 두 배로 늘려도 오차는 절반이 안 된다

공식에서 $n$이 제곱근 안에 들어 있다는 점이 실무적으로 가장 중요합니다. 표본을 두 배로 늘리면 표본오차는 절반이 아니라 $1/\sqrt{2}$배, 약 71%로 줄어듭니다. 오차를 정확히 절반으로 줄이려면 표본을 네 배로 늘려야 합니다.

1,000명 조사의 ±3.1%p를 ±1.55%p로 만들려면 4,000명을 조사해야 한다는 뜻입니다. 조사 비용은 대략 네 배가 되는데 정밀도는 두 배밖에 좋아지지 않습니다. 여론조사 표본이 대체로 1,000명 안팎에서 멈추는 이유가 여기 있습니다. 그 지점을 넘어서면 돈을 쓴 만큼 정확해지지 않습니다.

덧붙여 자주 오해받는 부분이 있습니다. 표본오차 공식에는 모집단의 크기가 등장하지 않습니다. 인구 5천만 명에서 1,000명을 뽑든, 인구 50만 명에서 1,000명을 뽑든 표본오차는 거의 같습니다. 중요한 것은 전체의 몇 퍼센트를 뽑았느냐가 아니라 몇 명을 뽑았느냐입니다.

표본오차와 표준오차는 어떻게 다른가?

검색어로도 자주 붙어 다니는 두 용어입니다. 표준오차는 추정값이 표본마다 얼마나 흔들리는지를 나타내는 표준편차이고, 위 공식에서 제곱근 부분인 $\sqrt{p(1-p)/n}$이 바로 그것입니다. 표본오차는 여기에 신뢰수준 계수 $z$를 곱해 폭으로 바꾼 값입니다.

정리하면 표준오차는 흔들림의 크기이고, 표본오차는 그 흔들림을 특정 신뢰수준의 구간으로 환산한 결과입니다. 그래서 신뢰수준을 말하지 않은 표본오차는 의미가 불완전합니다. 반대로 표준오차는 신뢰수준과 무관하게 정의됩니다.

95%라는 신뢰수준 자체도 자주 잘못 읽힙니다. 이 조사 결과가 맞을 확률이 95%라는 뜻이 아닙니다. 같은 방식으로 조사를 100번 반복하면 그렇게 만들어진 구간 100개 가운데 약 95개가 참값을 품는다는 뜻입니다. 지금 눈앞의 한 구간이 그 95개에 속하는지는 아무도 모릅니다. 표본오차가 알려주는 것은 개별 조사의 정답 여부가 아니라 방법 전체의 적중 비율입니다.

오차범위 내 접전이 뜻하는 것

A 후보 42%, B 후보 39%, 표본오차 ±3.1%p인 조사가 있다고 해봅시다. 격차 3%p는 오차범위 안이므로 우열을 단정할 수 없다고 보도됩니다. 여기서 한 걸음 더 들어가면 상황은 더 조심스러워집니다. 두 비율의 차이가 갖는 오차는 각 비율의 표본오차보다 크기 때문입니다. 두 값이 같은 표본에서 나온 데다 서로 음의 상관을 갖는 탓에, 격차에 대한 판단은 개별 지지율에 대한 판단보다 훨씬 넓은 폭을 필요로 합니다.

그리고 표본오차가 잡아주지 못하는 오차가 따로 있습니다. 응답을 거절한 사람들이 특정 성향에 몰려 있는 경우, 질문 문구가 답을 유도하는 경우, 전화를 받는 시간대가 특정 연령층에 치우친 경우가 그렇습니다. 이런 비표본오차는 표본을 아무리 키워도 줄지 않습니다. 그래서 여론조사 등록 항목에 응답률과 접촉률, 가중값 산출 방법, 전체 질문지까지 함께 기재하게 되어 있습니다.

저도 예전에는 지지율 숫자만 눈에 들어왔습니다. 계산을 직접 해보고 나서 습관이 바뀐 것은 표본 크기와 응답률을 먼저 찾아보게 됐다는 점입니다. 표본오차 ±3.1%p라는 문구가 조사가 정밀하다는 인증처럼 읽혔는데, 알고 보니 그건 가장 관대하게 잡아도 이 정도는 틀릴 수 있다는 경고문에 가까웠습니다.

결론은 한 줄로 떨어집니다. 표본오차는 조사의 품질 점수가 아니라 표본 크기가 정해주는 최소한의 불확실성이고, 그 폭 안에서는 순위를 말할 수 없습니다. 조사마다 대상과 방법이 다르므로 서로 다른 기관의 수치를 그대로 비교하는 것도 조심할 일입니다.

함께 읽으면 좋은 글

평균 중앙값 차이, 평균 연봉이 체감과 다른 이유 소비자물가지수 뜻과 계산법, 체감물가와 다른 이유 중심극한정리 뜻과 증명, 표본 30개의 이유

참고 자료

중앙선거여론조사심의위원회 — 선거여론조사기준 중앙선거관리위원회 — 선거여론조사 결과 공표·보도 시 유의사항