이항정리 공식과 증명 — 일반항·파스칼의 삼각형까지

📐 개념 정리

이항정리는 (a+b)의 n제곱을 전개했을 때 각 항의 계수가 조합의 수로 정해진다는 정리다. 이항정리 공식과 일반항, 조합과 수학적 귀납법을 이용한 두 가지 증명, 파스칼의 삼각형과 이항계수의 성질, 상수항·나머지 예제와 이항분포까지 정리했다.

이항정리는 두 항의 합을 거듭제곱해 전개했을 때 각 항의 계수가 조합의 수, 즉 이항계수로 정해진다는 정리다. 확률과 통계의 경우의 수 단원에서 배우지만, 특정 항의 계수와 거듭제곱의 나머지 문제를 지나 이항분포까지 이어지는 뼈대다. 공식과 일반항에서 출발해 두 가지 증명을 끝까지 따라가고, 파스칼의 삼각형과 예제로 마무리한다.

이항정리란? 뜻과 배우는 이유

이항정리 뜻은 이름 그대로다. 항이 두 개인 식, 이를테면 a 더하기 b를 n제곱했을 때 어떤 항들이 어떤 계수로 나오는지 알려 주는 정리다. 중학교에서 외운 완전제곱식은 계수가 1, 2, 1이고, 세제곱 공식은 1, 3, 3, 1이다. 네제곱을 손으로 전개해 보면 1, 4, 6, 4, 1이 나온다. 이 숫자들이 우연이 아니라 조합의 수라는 것, 그래서 백제곱을 전개하지 않고도 원하는 항의 계수를 바로 쓸 수 있다는 것이 이항정리의 내용이다.

고등학교 확률과 통계 교육과정에서 이항정리는 순열과 조합 바로 다음에 나온다. 순서가 그런 이유는 증명이 조합의 정의에서 곧바로 나오기 때문이고, 뒤에 배우는 이항분포가 이 전개식 위에 세워지기 때문이다. 수능에서는 특정 항의 계수, 상수항, 거듭제곱을 어떤 수로 나눈 나머지, 이항계수의 합을 묻는 문제로 출제된다.

이항정리 공식과 일반항

자연수 $n$에 대해 이항정리 공식은 다음과 같다. 전개식의 항은 모두 $n+1$개이고, 각 항에서 $a$와 $b$의 차수를 더하면 항상 $n$이다.

$$(a+b)^{n}=\sum_{k=0}^{n}\binom{n}{k}a^{\,n-k}b^{\,k}$$

$\binom{n}{k}$는 이항계수로, 교과서 표기로는 ${}_n\mathrm{C}_k$이며 $\dfrac{n!}{k!\,(n-k)!}$로 계산한다.

전개식에서 특정 항 하나만 떼어 쓴 것을 일반항이라 한다. $k$ 대신 $r$을 써서 $r+1$번째 항을 나타내는 것이 교과서의 관례다. 첫째 항이 $r=0$에 해당하므로 번호와 $r$이 하나씩 어긋난다는 점을 늘 확인해야 한다.

$$T_{r+1}=\binom{n}{r}a^{\,n-r}b^{\,r}\qquad(r=0,1,2,\dots,n)$$

$T_{r+1}$은 전개식의 $r+1$번째 항이다. 예를 들어 $(x+2)^5$에서 $x^3$의 계수는 $r=2$일 때이므로 $\binom{5}{2}\cdot 2^{2}=10\times4=40$이다.

이항정리 증명 ① 조합으로 세는 방법

첫 번째 증명은 정의에서 바로 나온다. $(a+b)^n$은 $(a+b)$라는 인수 $n$개를 곱한 것이다. 분배법칙으로 전개하면 각 인수에서 $a$ 또는 $b$ 중 하나씩을 골라 곱한 것들을 모두 더하게 된다. 인수가 $n$개이므로 한 번의 선택은 길이 $n$인 문자열 하나에 대응하고, 그 곱은 고른 $b$의 개수가 $k$개이면 $a^{n-k}b^{k}$가 된다.

따라서 $a^{n-k}b^{k}$의 계수는 $n$개의 인수 가운데 $b$를 고를 $k$개를 선택하는 경우의 수와 같다. 이것이 정확히 조합의 수 $\binom{n}{k}$의 정의다. 모든 $k$에 대해 같은 논리가 성립하므로 전개식은 위의 공식과 일치한다. 증명이 끝났다. 계수가 왜 조합인지를 가장 직접적으로 보여 주는 증명이다.

이항정리 증명 ② 수학적 귀납법과 파스칼 항등식

두 번째 증명은 수학적 귀납법이다. 먼저 보조정리로 파스칼 항등식이 필요하다. 원소 $n+1$개에서 $k$개를 고르는 방법은 특정한 원소 하나를 포함하는 경우와 포함하지 않는 경우로 나뉘는데, 앞의 경우는 나머지 $n$개에서 $k-1$개를, 뒤의 경우는 $n$개에서 $k$개를 고르는 것이므로 다음이 성립한다.

$$\binom{n}{k-1}+\binom{n}{k}=\binom{n+1}{k}\qquad(1\le k\le n)$$

파스칼 항등식. 원소 하나를 포함하느냐로 경우를 나누는 위의 설명이 곧 증명이다.

$n=1$일 때 $(a+b)^1=a+b$이므로 공식이 성립한다. 이제 $n$에서 성립한다고 가정하고 $(a+b)^{n+1}=(a+b)(a+b)^{n}$을 계산한다. 가정한 전개식에 $a$를 곱한 합과 $b$를 곱한 합으로 나눈 뒤, 두 번째 합에서 첨자를 하나 옮겨 같은 항끼리 묶으면 다음을 얻는다.

$$(a+b)^{n+1}=\sum_{k=0}^{n}\binom{n}{k}a^{\,n+1-k}b^{\,k}+\sum_{k=1}^{n+1}\binom{n}{k-1}a^{\,n+1-k}b^{\,k}=\sum_{k=0}^{n+1}\left[\binom{n}{k}+\binom{n}{k-1}\right]a^{\,n+1-k}b^{\,k}$$

두 번째 합은 $b$를 곱하면서 $k$가 하나씩 커진 것이다. 범위 밖의 이항계수를 0으로 두면 하나의 합으로 합쳐진다.

대괄호 안이 $\binom{n+1}{k}$이므로 $n+1$일 때도 공식이 성립한다. 수학적 귀납법에 따라 모든 자연수 $n$에서 이항정리가 성립한다. 이 증명은 이항계수가 파스칼 항등식이라는 점화식을 따른다는 사실을 드러낸다. 그 점화식을 그림으로 그린 것이 파스칼의 삼각형이다.

파스칼의 삼각형과 이항계수의 성질

파스칼의 삼각형은 꼭대기에 1을 놓고, 각 줄의 양 끝을 1로 채운 뒤 가운데 수는 바로 위 두 수의 합으로 채운 삼각형이다. 위 두 수의 합이라는 규칙이 파스칼 항등식이므로, $n$번째 줄에 늘어선 수들이 곧 $(a+b)^n$의 계수가 된다. 1, 4, 6, 4, 1이 네제곱의 계수인 것을 삼각형에서 바로 읽을 수 있다.

이항정리 공식에 특별한 값을 대입하면 이항계수의 성질이 쏟아진다. $a=b=1$을 넣으면 한 줄의 합이 $2^n$이고, $a=1$, $b=-1$을 넣으면 부호를 번갈아 붙인 합이 0이 된다. 앞의 식은 원소 $n$개인 집합의 부분집합이 $2^n$개라는 뜻이고, 뒤의 식은 원소 개수가 짝수인 부분집합과 홀수인 부분집합이 정확히 절반씩이라는 뜻이다. 삼각형의 좌우가 대칭인 것은 $\binom{n}{k}=\binom{n}{n-k}$, 즉 $k$개를 고르는 것과 $n-k$개를 남기는 것이 같은 일이기 때문이다.

$$\sum_{k=0}^{n}\binom{n}{k}=2^{n},\qquad \sum_{k=0}^{n}(-1)^{k}\binom{n}{k}=0,\qquad \binom{n}{k}=\binom{n}{n-k}$$

세 성질 모두 이항정리에 대입하거나 조합의 뜻을 생각하면 나온다. 두 식을 더하고 빼면 짝수 번째 계수의 합과 홀수 번째 계수의 합이 각각 $2^{n-1}$임을 얻는다.

이항정리 활용 예제 — 상수항, 나머지, 이항분포

가장 자주 나오는 유형은 상수항이다. $\left(x+\dfrac{1}{x}\right)^{6}$의 일반항은 $\binom{6}{r}x^{6-r}x^{-r}=\binom{6}{r}x^{6-2r}$이므로, 지수가 0이 되는 $r=3$을 택하면 상수항은 $\binom{6}{3}=20$이다. 항을 전부 전개할 필요 없이 일반항을 세우고 지수 조건을 푸는 것이 요령이다.

나머지 문제도 같은 도구로 푼다. $11^{10}$을 100으로 나눈 나머지를 구하려면 $11=10+1$로 쓰고 이항정리로 전개한다. $10^{k}$가 붙은 항은 $k\ge 2$이면 100의 배수이고, $k=1$인 항은 $\binom{10}{1}\cdot 10=100$이라 역시 100의 배수다. 남는 것은 $k=0$인 항 1뿐이므로 나머지는 1이다. 밑을 어떤 수 더하기 1의 꼴로 바꾸는 것이 열쇠다.

$$11^{10}=(10+1)^{10}=\sum_{k=0}^{10}\binom{10}{k}10^{k}=1+100+\binom{10}{2}10^{2}+\cdots\equiv 1 \pmod{100}$$

$\equiv$와 $\pmod{100}$은 100으로 나눈 나머지가 같다는 뜻이다. 둘째 항부터는 모두 100의 배수이므로 첫째 항 1만 나머지에 기여한다.

이항분포라는 이름도 여기서 나온다. 성공 확률이 $p$인 시행을 $n$번 독립적으로 반복할 때 $k$번 성공할 확률은 $\binom{n}{k}p^{k}(1-p)^{n-k}$인데, 이것은 $(p+(1-p))^{n}$을 이항정리로 전개한 $k$번째 항과 정확히 같다. 모든 $k$에 대해 더하면 $(p+1-p)^n=1^n=1$이 되어 확률의 합이 1이라는 사실이 저절로 확인된다. 확률과 통계에서 이항정리를 먼저 배우는 이유가 이 한 줄에 있다.

$$\sum_{k=0}^{n}\binom{n}{k}p^{k}(1-p)^{n-k}=\bigl(p+(1-p)\bigr)^{n}=1$$

$p$는 한 번 시행의 성공 확률, $n$은 시행 횟수, $k$는 성공 횟수다. 이항분포의 확률질량함수를 모두 더한 값이 1임을 이항정리가 보증한다.

고등학생 때 이항정리를 공식 하나로만 외웠다가 상수항 문제에서 번호와 $r$을 헷갈려 틀린 적이 있다. 대학에서 조합론적 증명을 다시 만나고 나서야 계수가 왜 조합인지 이해했고, 그 뒤로는 일반항을 외우는 대신 인수 $n$개 중 $b$를 고르는 장면을 떠올리며 세게 됐다. 증명을 한 번 끝까지 따라가면 공식은 외울 것이 아니라 읽을 것이 된다는 사실을 이항정리에서 처음 배웠다.

함께 읽으면 좋은 글

수학적 귀납법 뜻과 증명 방법, 예시로 완벽 정리 조건부 확률이란? 공식과 예제, 베이즈 정리까지 정리 큰 수의 법칙이란? 뜻과 예시, 도박·보험에 숨은 원리

참고 자료

Wikipedia — Binomial theorem Wolfram MathWorld — Binomial Theorem Encyclopaedia Britannica — Pascal's triangle 국가교육과정정보센터 — 고등학교 수학과 교육과정(확률과 통계)