켈리 공식이란? 뜻과 유도, 최적 베팅 비율 계산법

🧮 생활 속 수학

켈리 공식은 이길 확률과 배당이 정해진 반복 게임에서 자금의 몇 퍼센트를 걸어야 장기 성장률이 최대가 되는지 알려준다. 켈리 공식의 뜻과 로그 유도, 숫자 예시, 하프 켈리까지 정리했다.

켈리 공식은 유리한 내기를 여러 번 반복할 때 매번 자금의 몇 퍼센트를 거는 것이 가장 좋은지 계산해 주는 공식이다. 이길 확률이 60%이고 이기면 건 만큼 받는 게임이라면 답은 자금의 20%다. 이 숫자가 어디서 나오는지, 더 많이 걸면 왜 오히려 망하는지 차근차근 계산해 본다.

켈리 공식이란? 뜻과 기본 형태

켈리 공식은 1956년 벨 연구소의 존 켈리 주니어가 정보이론 논문에서 처음 제시했다. 원래는 잡음이 섞인 통신 채널로 경마 정보를 받는 도박사가 얼마를 걸어야 하는지를 다룬 문제였다. 이후 수학자 에드워드 소프가 블랙잭에 적용하면서 널리 알려졌다.

기호부터 정하자. 이길 확률을 \(p\), 질 확률을 \(q = 1 - p\), 이겼을 때 건 돈 1에 대해 받는 순이익을 \(b\)라 한다. 지면 건 돈을 모두 잃는다. 매번 현재 자금의 \(f\) 비율을 건다고 할 때, 켈리 공식이 알려 주는 최적 비율은 다음과 같다.

$$f^{*} = \frac{bp - q}{b} = p - \frac{q}{b}$$

켈리 공식 — 최적 베팅 비율 = 기대 순이익 ÷ 배당

분자 \(bp - q\)는 1을 걸었을 때의 기댓값이다. 즉 켈리 공식은 기댓값을 배당으로 나눈 값이라고 읽으면 된다. 기댓값이 0 이하이면 \(f^{*}\)도 0 이하가 되므로 걸지 않는 것이 최적이다. 이길 확률 60%, 배당 1배라면 \(f^{*} = 0.6 - 0.4 = 0.2\), 곧 자금의 20%다.

켈리 공식 유도 — 왜 로그를 최대화할까?

처음 자금을 \(W_0\)라 하고 \(n\)번 걸어 \(S\)번 이기고 \(F\)번 졌다고 하자. 이기면 자금이 \(1 + bf\)배, 지면 \(1 - f\)배가 되므로 최종 자금은 이 배율들의 곱이다. 곱으로 불어나는 양은 로그를 취해 한 번당 평균을 보는 것이 자연스럽다. 횟수가 충분히 많으면 \(S/n\)은 \(p\)로, \(F/n\)은 \(q\)로 다가가므로 한 번당 로그 성장률은 아래 식이 된다.

$$G(f) = p \ln(1 + bf) + q \ln(1 - f)$$

한 번 걸 때마다 자금이 불어나는 평균 로그 성장률

이 함수를 \(f\)로 미분해 0으로 두면 \(\dfrac{pb}{1 + bf} = \dfrac{q}{1 - f}\)이고, 정리하면 위의 켈리 공식이 그대로 나온다. 두 번 미분한 값은 항상 음수라서 이 지점이 최댓값이다. 핵심은 켈리 공식이 한 번의 기댓값이 아니라 반복할 때의 기하평균 성장률을 최대화한다는 점이다.

숫자로 보는 켈리 공식 — 더 걸면 왜 망할까?

이길 확률 60%, 배당 1배 게임에서 거는 비율에 따라 한 번당 성장률이 어떻게 바뀌는지 계산하면 다음과 같다. 괄호 안은 100번 반복했을 때 전형적인 자금 배율이다.

이길 확률 60%·배당 1배일 때 비율별 성장률

• 10% 걸기: 한 번당 약 1.50% 성장 (100번 뒤 약 4.5배)
• 20% 걸기(켈리 비율): 한 번당 약 2.01% 성장 (100번 뒤 약 7.5배)
• 30% 걸기: 한 번당 약 1.47% 성장 (100번 뒤 약 4.4배)
• 40% 걸기: 한 번당 약 −0.25% (100번 뒤 약 0.78배로 감소)
• 50% 걸기: 한 번당 약 −3.40% (100번 뒤 원금의 3% 수준)

같은 유리한 게임인데도 40%를 넘게 걸면 자금이 줄어든다. 매번의 기댓값은 양수지만, 크게 진 뒤에는 남은 돈이 적어 회복이 느리기 때문이다. 일반적으로 켈리 비율의 두 배를 걸면 장기 성장률이 거의 0에 가까워진다. 기댓값만 보고 판단하면 놓치는 부분을 켈리 공식이 수식으로 보여 준다.

이길 확률이 50%보다 낮아도 켈리 공식이 양수가 될 수 있다. 이길 확률 40%, 이기면 건 돈의 2배를 순이익으로 받는 게임이라면 \(f^{*} = (2 \times 0.4 - 0.6) / 2 = 0.1\)이다. 배당이 확률의 불리함을 메우면 거는 것이 맞고, 그 크기는 자금의 10%라는 뜻이다.

하프 켈리와 켈리 공식의 한계

켈리 공식의 약점은 \(p\)와 \(b\)를 정확히 안다고 가정한다는 데 있다. 동전이나 카드처럼 확률이 정해진 게임이 아니라면 이길 확률은 추정치일 뿐이고, 확률을 조금만 높게 잡아도 계산된 비율은 과대해진다. 위 표에서 보았듯 지나치게 거는 쪽의 손해가 덜 거는 쪽보다 훨씬 크다.

그래서 실무에서는 켈리 비율의 절반만 거는 하프 켈리를 자주 쓴다. 앞의 예에서 10%를 걸면 성장률은 약 1.50%로 켈리 비율일 때의 약 75%를 유지하면서, 자금의 출렁임은 크게 줄어든다. 수익을 조금 양보하고 추정 오차와 변동성에 대비하는 선택이다.

나도 스프레드시트에 난수를 넣어 이길 확률 60% 게임을 1,000번씩 돌려 본 적이 있다. 20%를 건 칸은 평균적으로 가장 빨리 불어났지만 중간에 반 토막이 나는 구간이 잦았고, 10%를 건 칸은 느려도 곡선이 훨씬 매끄러웠다. 수식이 말하는 최적과 사람이 버틸 수 있는 최적은 다를 수 있다는 걸 그때 체감했다.

켈리 공식은 독립적으로 반복되는 단순한 게임을 전제로 한 계산 도구다. 실제 돈을 어디에 얼마나 둘지는 목표, 기간, 손실을 견딜 수 있는 정도가 사람마다 달라 이 공식 하나로 정할 수 없다. 켈리 공식은 기댓값과 장기 성장률이 왜 다른지를 이해하는 틀로 쓰는 것이 가장 안전하다.

함께 읽으면 좋은 글

기댓값 뜻과 계산 공식, 생활 속 확률 판단법 연평균 수익률 계산법 — 산술평균과 기하평균의 차이 이산확률변수 뜻과 예시, 기댓값 구하는 법

참고 자료

Wikipedia — Kelly criterion J. L. Kelly Jr. (1956), A New Interpretation of Information Rate Investopedia — Money Management Using the Kelly Criterion