오픈AI 수학 논문 722편 공개 — 리만 제타 함수 뜻·영점 총정리

📐 수학 이야기

오픈AI가 내부 모델이 쓴 수학 원고 722편을 공개했고 그 안에 리만 제타 함수의 영점 없는 영역 연구가 포함됐다. 리만 제타 함수 뜻과 오일러 곱, 영점과 소수 정리의 관계를 정리했다.

오픈AI가 10월 6일(미국 시간) 내부 프런티어 모델이 미해결 수학 문제를 풀며 작성한 원고 722편을 깃허브에 공개했다. 공개 목록에는 리만 제타 함수의 영점 없는 영역에 관한 연구와 CM 아벨 다양체의 호지 추측 증명이 포함됐다. 아직 외부 수학자의 검증은 끝나지 않았다. 이 소식을 계기로 리만 제타 함수가 무엇이고, 영점이 왜 소수의 분포를 좌우하는지 고등학교 수학에서 출발해 차례로 유도해 본다.

오픈AI 수학 논문 722편, 무엇이 공개됐나?

오픈AI 발표에 따르면 저장소에는 원고 722편이 실렸고, 핵심 결과와 보조 논증, 따름정리를 하나로 묶은 결과 계열은 372개다. 평가 기간에 모델에 낸 문제는 약 4,000개였고, 결과 하나에 평균적으로 챗GPT 프로 기준 약 3시간 분량의 사고 연산이 들었다고 밝혔다. 다만 리만 제타 함수의 영점 없는 영역 연구와 호지 추측 증명은 이 표준 절차와 다른 방식으로 얻었다고 따로 적었다.

상당수 증명은 컴퓨터가 논리를 검사하는 증명 언어 린(Lean)으로 형식화됐지만 전부는 아니다. 오픈AI는 형식화되지 않은 결과 일부에 오류가 있을 수 있다고 인정하고, 수정본은 새 버전으로 남기겠다고 했다. 공개 방식은 미국 고등연구소(IAS) 산하 독립 자문 그룹이 9월 29일 낸 권고를 반영했다. 결국 이번 발표의 의미는 수학계의 검증을 거친 뒤에야 확정된다.

오픈AI 수학 원고 공개 핵심 숫자

• 원고 722편, 결과 계열 372개 — 2026년 10월 6일 깃허브 공개
• 평가에 투입된 문제 약 4,000개, 결과당 평균 챗GPT 프로 약 3시간 분량 연산
• 모델 추론 요약 10건 공개 — 원주율의 무리수 지수, 말러 추측 등
• 주요 결과: 리만 제타 함수 영점 없는 영역, CM 아벨 다양체의 호지 추측

리만 제타 함수 뜻 — 자연수 거듭제곱의 역수를 더한 함수

리만 제타 함수는 모든 자연수의 \(s\)제곱 분의 1을 더한 무한급수로 정의한다. \(s\)의 실수 부분이 1보다 크면 이 급수는 수렴한다.

$$\zeta(s) = \sum_{n=1}^{\infty} \frac{1}{n^{s}} = 1 + \frac{1}{2^{s}} + \frac{1}{3^{s}} + \cdots$$

리만 제타 함수의 정의 (실수부가 1보다 클 때)

예를 들어 \(s = 2\)를 넣으면 제곱수의 역수 합이 되고, 오일러는 이 값이 \(\pi^2/6\)임을 보였다. 이것이 유명한 바젤 문제다. 리만 제타 함수가 소수와 이어지는 출발점은 오일러 곱이다. 소수 \(p\)마다 등비급수 \(1 + p^{-s} + p^{-2s} + \cdots\)를 만들어 모두 곱하면, 소인수분해가 한 가지뿐이라는 성질 덕분에 모든 자연수가 정확히 한 번씩 나타난다.

$$\zeta(s) = \prod_{p\ \text{소수}} \frac{1}{1 - p^{-s}}$$

오일러 곱 — 왼쪽은 자연수 전체, 오른쪽은 소수만으로 이루어진 곱

왼쪽은 자연수 전체에 대한 합이고 오른쪽은 소수만의 곱이다. 이 등식 하나 때문에 리만 제타 함수의 성질을 알면 소수의 성질을 알 수 있게 된다.

리만 제타 함수 영점 — 자명한 영점과 비자명한 영점

1859년 리만은 이 함수를 복소수 \(s\) 전체로 넓혔다. 이를 해석적 확장이라 하며, \(s = 1\) 한 점을 빼고 모든 복소수에서 값이 정해진다. 확장된 함수는 다음 함수 방정식을 만족한다.

$$\zeta(s) = 2^{s}\pi^{s-1}\sin\!\left(\frac{\pi s}{2}\right)\Gamma(1-s)\,\zeta(1-s)$$

리만 제타 함수의 함수 방정식 — s와 1−s의 값을 서로 연결한다

사인 인수 때문에 \(s = -2, -4, -6, \ldots\)에서 함숫값이 0이 되는데, 이를 자명한 영점이라 한다. 나머지 영점은 모두 실수부가 0과 1 사이인 띠, 곧 임계띠 안에 있다. 이것이 비자명한 영점이다. 첫 번째 비자명한 영점은 \(\tfrac12 + 14.1347\ldots i\) 근처에 있다. 리만 가설은 비자명한 영점이 모두 실수부가 정확히 \(\tfrac12\)인 직선 위에 있다는 추측이며, 클레이 수학연구소의 밀레니엄 문제 가운데 하나다.

영점 없는 영역이 소수 정리로 이어지는 이유

\(x\) 이하 소수의 개수를 \(\pi(x)\)라 하자. 소수 정리는 \(x\)가 커질수록 이 개수가 \(x/\ln x\)에 가까워진다는 정리다.

$$\pi(x) \sim \frac{x}{\ln x}$$

소수 정리 — 두 값의 비가 1로 수렴한다

실제로 \(x = 10^{6}\)일 때 소수는 78,498개이고 \(x/\ln x\)는 약 72,382로 비율이 1에 다가간다. 1896년 아다마르와 드라 발레푸생은 리만 제타 함수가 실수부 1인 직선 위에 영점을 갖지 않음을 보여 소수 정리를 증명했다. 이후 드라 발레푸생은 그 직선 왼쪽으로도 영점이 없는 띠를 찾았다.

$$\sigma > 1 - \frac{c}{\ln |t|} \;\Rightarrow\; \zeta(\sigma + it) \neq 0$$

고전적 영점 없는 영역 — c는 양의 상수, |t|가 충분히 클 때

영점 없는 영역이 넓을수록 소수 정리의 오차를 더 작게 잡을 수 있다. 리만 가설이 참이라면 영점 없는 영역이 실수부 1/2까지 넓어지는 셈이고, 소수 개수의 오차는 대략 제곱근 크기로 줄어든다. 이번 오픈AI 원고가 다룬 영역이 바로 이 경계다. 리만 가설 자체를 푼 것은 아니지만, 사람 수학자들이 100년 넘게 조금씩 넓혀 온 띠를 AI가 건드렸다는 점에서 검증 결과가 주목된다.

나도 학부 해석학 시간에 제타 함수의 함수 방정식을 처음 손으로 따라가다가, 감마 함수와 사인 함수가 왜 갑자기 등장하는지 몰라 한 주를 붙잡고 있었던 기억이 있다. 그런데 자명한 영점이 사인 인수에서 나온다는 걸 알고 나니 식 전체가 하나의 지도처럼 읽혔다. 이번 원고도 검증이 끝나면 그 지도의 어느 경계가 바뀌었는지부터 확인해 볼 생각이다.

함께 읽으면 좋은 글

오일러 공식 증명과 유도 — 복소수·삼각함수로 이해하기 에르되시 이어 리만 가설 노리는 AI — 리만 가설이란, 100만 달러 난제 총정리 벤포드 법칙이란? 뜻과 증명, 회계부정 적발 원리

참고 자료

OpenAI — Sharing AI progress in mathematics (2026.10.06) GitHub — openai/math 저장소 AI매터스 — 오픈AI, 미공개 모델이 쓴 수학 논문 722편 공개 (2026.10.07) Clay Mathematics Institute — Riemann Hypothesis