벡터의 내적이란? 정의와 공식, 기하학적 의미까지

📐 개념 정리

벡터의 내적은 두 벡터를 곱해 숫자 하나를 얻는 연산으로, 두 벡터가 얼마나 같은 방향을 향하는지를 잰다. 벡터의 내적 정의와 두 가지 공식, 코사인법칙을 이용한 유도, 정사영이라는 기하학적 의미, 수직 조건과 크기 계산, 외적과 차이까지 정리했다.

벡터의 내적은 두 벡터에서 스칼라, 즉 방향이 없는 숫자 하나를 만들어 내는 곱셈이다. 두 벡터의 크기를 곱한 뒤 사잇각의 코사인을 곱하거나, 성분끼리 곱해서 더하면 얻는다. 결과가 양수면 두 벡터는 대체로 같은 쪽을 향하고, 0이면 수직이며, 음수면 반대쪽을 향한다. 벡터의 내적이 기하 과목의 핵심이자 물리의 일, 추천 알고리즘의 유사도까지 한 번에 설명하는 도구인 이유가 여기 있다.

벡터의 내적이란 — 방향이 같은 정도를 재는 곱셈

벡터는 크기와 방향을 함께 가진 양이다. 숫자끼리는 곱하면 되지만 벡터끼리는 "곱한다"는 말의 뜻을 먼저 정해야 한다. 벡터의 내적은 그중 결과가 숫자로 떨어지는 곱셈이다. 두 벡터가 같은 방향을 향하면 크기의 곱이 그대로 나오고, 방향이 벌어질수록 값이 줄어들다가 직각에서 0이 되며, 반대 방향이면 크기의 곱에 음의 부호가 붙는다. 그래서 벡터의 내적은 곱셈이면서 동시에 두 방향이 얼마나 닮았는지를 재는 자에 가깝다.

고등학교 기하 과목에서 벡터의 내적은 평면벡터와 공간벡터를 잇는 다리 역할을 한다. 두 직선이 이루는 각, 직선과 평면의 수직 조건, 벡터의 크기와 최댓값·최솟값 문제가 전부 벡터의 내적으로 풀린다. 물리에서는 힘이 물체를 움직인 방향으로 얼마나 일했는지를 재는 데 쓰이고, 컴퓨터 과학에서는 두 데이터가 얼마나 비슷한지를 재는 코사인 유사도의 뼈대가 된다. 정의 하나가 이렇게 넓게 쓰이는 이유는 다음 절의 공식을 보면 분명해진다.

벡터의 내적 정의와 두 가지 공식

영벡터가 아닌 두 벡터 $\vec{a}$, $\vec{b}$의 사잇각을 $\theta$라 할 때, 벡터의 내적은 크기와 사잇각의 코사인으로 정의한다.

$$\vec{a}\cdot\vec{b}=|\vec{a}|\,|\vec{b}|\cos\theta \qquad (0^\circ\le\theta\le180^\circ)$$

기하적 정의. 두 벡터의 시점을 맞췄을 때의 각이 사잇각이다.

여기서 $|\vec{a}|$와 $|\vec{b}|$는 각 벡터의 크기(길이)이고, $\cos\theta$는 사잇각의 코사인이다. 어느 한쪽이 영벡터면 내적은 0으로 정한다. 좌표가 주어지면 각을 몰라도 계산할 수 있는 두 번째 공식이 있다. 성분끼리 곱해 더하는 것이다.

$$\vec{a}\cdot\vec{b}=a_1b_1+a_2b_2 \quad(\text{평면}),\qquad \vec{a}\cdot\vec{b}=a_1b_1+a_2b_2+a_3b_3 \quad(\text{공간})$$

성분 공식. $\vec{a}=(a_1,a_2)$, $\vec{b}=(b_1,b_2)$처럼 좌표로 주어졌을 때 쓴다.

예를 들어 $\vec{a}=(3,4)$, $\vec{b}=(1,2)$이면 $\vec{a}\cdot\vec{b}=3\cdot1+4\cdot2=11$이다. 두 공식을 나란히 놓으면 사잇각도 나온다. $|\vec{a}|=5$, $|\vec{b}|=\sqrt{5}$이므로 $\cos\theta=\dfrac{11}{5\sqrt{5}}=\dfrac{11\sqrt{5}}{25}\approx0.984$, 사잇각은 약 10.3°다. 각을 재지 않고 좌표만으로 각을 구하는 이 과정이 벡터의 내적을 배우는 첫 번째 이유다.

두 공식이 같은 이유 — 코사인법칙으로 유도

기하적 정의와 성분 공식이 같은 값을 준다는 사실은 코사인법칙에서 나온다. 두 벡터의 시점을 원점에 맞추면 원점과 두 끝점이 삼각형을 이루고, 두 끝점 사이의 변은 $\vec{a}-\vec{b}$의 크기다. 이 삼각형에 코사인법칙을 적용한다.

$$|\vec{a}-\vec{b}|^2=|\vec{a}|^2+|\vec{b}|^2-2|\vec{a}|\,|\vec{b}|\cos\theta$$

코사인법칙. 사잇각 $\theta$를 낀 두 변이 $|\vec{a}|$, $|\vec{b}|$이고 마주 보는 변이 $|\vec{a}-\vec{b}|$다.

같은 길이를 성분으로 쓰면 $|\vec{a}-\vec{b}|^2=(a_1-b_1)^2+(a_2-b_2)^2$이고, 전개하면 $a_1^2+a_2^2+b_1^2+b_2^2-2(a_1b_1+a_2b_2)$, 즉 $|\vec{a}|^2+|\vec{b}|^2-2(a_1b_1+a_2b_2)$가 된다. 두 식을 비교하면 나머지 항이 모두 지워지고 핵심만 남는다.

$$a_1b_1+a_2b_2=|\vec{a}|\,|\vec{b}|\cos\theta$$

성분 공식과 기하적 정의가 같음을 보이는 등식. 공간벡터는 $a_3b_3$ 항만 추가된다.

벡터의 내적의 기하학적 의미 — 정사영과 부호

정의식을 괄호로 다시 묶으면 벡터의 내적 기하학적 의미가 보인다. $|\vec{a}|\cos\theta$는 벡터 $\vec{a}$를 $\vec{b}$의 방향으로 수직으로 내렸을 때 생기는 그림자, 즉 정사영의 길이다. 벡터의 내적은 이 그림자 길이에 $\vec{b}$의 길이를 곱한 값이다.

$$\vec{a}\cdot\vec{b}=|\vec{b}|\times\big(|\vec{a}|\cos\theta\big)=(\vec{b}\text{의 길이})\times(\vec{a}\text{의 }\vec{b}\text{ 방향 정사영 길이})$$

정사영 해석. 그림자가 $\vec{b}$와 반대쪽으로 떨어지면 정사영 길이가 음수가 되어 내적도 음수다.

부호는 사잇각이 결정한다. 예각이면 $\cos\theta>0$이라 양수, 직각이면 0, 둔각이면 음수다. 특히 0이 되는 조건은 기하 문제에서 가장 많이 쓰인다. 영벡터가 아닌 두 벡터가 수직일 필요충분조건이 내적 0이기 때문이다.

$$\vec{a}\perp\vec{b}\iff\vec{a}\cdot\vec{b}=0,\qquad \vec{a}\cdot\vec{a}=|\vec{a}|^2$$

수직 조건과 자기 자신과의 내적. 자기 자신과의 사잇각은 0°이므로 코사인이 1이 되어 크기의 제곱이 남는다.

예를 들어 $\vec{a}=(2,-1)$과 $\vec{b}=(1,2)$는 $2\cdot1+(-1)\cdot2=0$이므로 각을 재지 않아도 수직임을 알 수 있다. 자기 자신과의 내적이 크기의 제곱이라는 성질은 벡터의 크기를 구하는 문제를 내적 계산으로 바꿔 주는 열쇠다.

벡터의 내적 성질과 자주 나오는 계산

벡터의 내적은 교환법칙 $\vec{a}\cdot\vec{b}=\vec{b}\cdot\vec{a}$, 분배법칙 $\vec{a}\cdot(\vec{b}+\vec{c})=\vec{a}\cdot\vec{b}+\vec{a}\cdot\vec{c}$, 실수배 $(k\vec{a})\cdot\vec{b}=k(\vec{a}\cdot\vec{b})$를 만족한다. 성분 공식이 곱셈과 덧셈으로만 이루어져 있으니 당연한 결과다. 이 성질을 자기 자신과의 내적에 적용하면 두 벡터의 합의 크기를 구하는 공식이 나온다.

$$|\vec{a}+\vec{b}|^2=(\vec{a}+\vec{b})\cdot(\vec{a}+\vec{b})=|\vec{a}|^2+2\,\vec{a}\cdot\vec{b}+|\vec{b}|^2$$

합의 크기 공식. 다항식의 완전제곱 전개와 모양이 같지만 가운데 항이 내적이다.

$|\vec{a}|=2$, $|\vec{b}|=3$, 사잇각이 60°이면 $\vec{a}\cdot\vec{b}=2\cdot3\cdot\cos60^\circ=3$이고, $|\vec{a}+\vec{b}|^2=4+6+9=19$이므로 $|\vec{a}+\vec{b}|=\sqrt{19}$다. 같은 방법으로 $|\vec{a}-\vec{b}|^2=4-6+9=7$이다. 여기에 $|\cos\theta|\le1$을 정의식에 넣으면 코시-슈바르츠 부등식이 바로 나온다.

$$-|\vec{a}|\,|\vec{b}|\le\vec{a}\cdot\vec{b}\le|\vec{a}|\,|\vec{b}|$$

내적의 범위. 등호는 두 벡터가 평행할 때 성립하며, 최댓값·최솟값 문제의 출발점이다.

기하 과목의 최댓값·최솟값 문제는 대부분 이 부등식 하나로 정리된다. 한 벡터가 고정되고 다른 벡터의 크기만 정해져 있으면, 벡터의 내적은 두 벡터가 같은 방향일 때 최대, 반대 방향일 때 최소가 된다. 점이 원이나 구 위를 움직이는 문제도 그 점의 위치벡터를 중심 벡터와 반지름 벡터의 합으로 쪼갠 뒤 같은 부등식을 쓰면 된다.

벡터의 내적과 외적 차이, 실생활 활용

벡터의 내적과 외적의 차이는 결과의 종류다. 내적은 숫자를 주고 외적은 두 벡터에 모두 수직인 새로운 벡터를 준다. 내적은 $\cos\theta$, 외적의 크기는 $\sin\theta$에 비례하므로 내적은 나란한 정도를, 외적은 벌어진 정도(평행사변형의 넓이)를 잰다. 외적은 공간벡터에서만 정의되지만 내적은 어떤 차원에서도 같은 성분 공식으로 정의된다.

물리에서 힘 $\vec{F}$로 물체를 $\vec{s}$만큼 옮길 때 한 일 $W=\vec{F}\cdot\vec{s}$는 힘 전체가 아니라 이동 방향 성분만 셈에 들어가므로 정확히 벡터의 내적이고, 코사인 유사도는 내적을 두 크기로 나눈 $\cos\theta$ 그 자체다. 추천 알고리즘은 사용자와 영상을 수백 차원의 벡터로 바꾼 뒤 내적을 크기로 나눈 코사인 유사도로 취향이 닮은 정도를 잰다. 3D 그래픽에서 표면의 밝기를 계산할 때도 빛의 방향 벡터와 표면의 법선 벡터의 내적을 쓴다. 정사영이라는 하나의 그림이 세 분야를 관통한다.

나는 벡터의 내적을 처음 배울 때 성분 공식만 외워 계산은 했지만 왜 코사인이 나오는지 이해하지 못했다. 코사인법칙으로 두 공식이 같다는 것을 직접 전개해 본 뒤에야 "그림자 길이 곱하기 길이"라는 그림이 잡혔고, 그 뒤로는 수직 조건과 최댓값 문제가 전혀 다른 문제로 보이지 않았다. 공식보다 유도 한 번이 오래 남는다는 것을 이 단원에서 배웠다.

함께 읽으면 좋은 글

코사인법칙 공식과 증명 — 변형 공식과 사인법칙 차이까지 삼각함수 공식 총정리 — 덧셈정리부터 합성까지 유튜브 알고리즘 뜻과 원리, 추천을 결정하는 수학

참고 자료

MIT OpenCourseWare 18.02SC Multivariable Calculus — Vectors and Dot Product Wolfram MathWorld — Dot Product Khan Academy — Vector dot product and vector length 3Blue1Brown — Dot products and duality (Essence of Linear Algebra) 국가교육과정정보센터 — 고등학교 기하 교육과정(평면벡터·공간벡터의 내적)