오픈AI 호지 추측 해결 근접 — 밀레니엄 문제 7개와 상금, 호지 추측 뜻 총정리

📐 수학 이야기

밀레니엄 문제 가운데 호지 추측을 오픈AI가 곧 풀 수 있다는 보도가 9월 17일 나왔다. 나비에-스토크스에 이어 두 번째다. 밀레니엄 문제 7개의 뜻과 상금 100만 달러, 검증 규정, 호지 추측이 무엇을 묻는지, 그리고 수학계의 우려까지 정리했다.

오픈AI가 밀레니엄 문제 가운데 하나인 호지 추측의 해법에 가까워졌다고 미국 매체 디 인포메이션이 9월 17일(현지시간) 보도했다. 오픈AI는 9월 8일 나비에-스토크스 방정식의 해가 유한한 시간 안에 특이점을 가질 수 있다는 증명을 발표해 수학계를 흔든 바 있고, 이번에는 차세대 사전훈련 모델의 변형인 코드명 '덕(Doug)'을 이용해 두 번째 밀레니엄 문제를 겨냥하고 있다. 다만 해법을 확보하더라도 곧바로 공개하지 않고 수학계와 협의해 발표하는 방안을 검토 중이라고 전해졌다.

무슨 일이 있었나 — 나비에-스토크스 다음은 호지 추측

보도의 골자는 세 가지다. 첫째, 오픈AI는 호지 추측의 해법을 비교적 가까운 시일 안에 도출할 수 있다고 기대하고 있다. 둘째, 앞선 나비에-스토크스 작업에는 수백만 달러의 비용이 들었고 약 1만 개의 AI 에이전트가 88시간 동안 270만 개의 메시지를 주고받으며 1,300억 개의 토큰을 썼다. 셋째, 오픈AI가 밀레니엄 문제에 집중하는 이유는 수학이 소프트웨어 엔지니어링처럼 단계별 논리로 풀리고 결과를 컴퓨터로 자동 검증할 수 있어 AI 추론 능력의 시험대가 되기 때문이며, 수학 연구를 자동화하면 AI가 AI를 개선하는 재귀적 자기 개선 연구로도 이어진다는 계산이 깔려 있다.

분위기가 마냥 축제는 아니다. 나비에-스토크스 발표 때는 뉴욕대 수학자가 오픈AI의 발표 방식을 두고 공개적으로 문제를 제기했고, 표절 공방까지 번졌다. 허준이 교수를 비롯한 필즈상 수상자 25명은 9월 초 AI의 난제 풀이 경쟁이 수학의 근간을 훼손한다는 공동선언을 냈으며, 오픈AI는 캘텍 AI 수학 해커톤 후원을 철회하기도 했다. 이번에 수학계와 협의해 발표하겠다는 태도는 그 후폭풍을 의식한 것으로 읽힌다.

밀레니엄 문제란? 7개 목록과 상금 100만 달러, 검증 규정

밀레니엄 문제는 2000년 5월 24일 미국 클레이 수학연구소가 파리에서 발표한 일곱 개의 수학 난제다. 20세기가 끝나는 시점에 다음 세기의 수학이 풀어야 할 문제를 고른 것으로, 문제 하나를 해결하면 100만 달러의 상금을 준다. 일곱 문제는 리만 가설, P 대 NP 문제, 나비에-스토크스 방정식의 존재성과 매끄러움, 호지 추측, 양-밀스 이론의 존재성과 질량 간극, 버치-스위너턴다이어 추측, 그리고 푸앵카레 추측이다. 이 가운데 푸앵카레 추측만 2003년 그리고리 페렐만이 증명해 해결됐고, 페렐만은 2010년 상금 수령을 거부했다.

밀레니엄 문제 상금을 받는 절차는 까다롭다. 클레이 수학연구소 규정에 따르면 해법은 심사를 거치는 학술지에 게재되어야 하고, 게재 뒤 2년 동안 수학계의 검토를 받은 뒤에야 연구소의 자문위원회가 검증을 시작한다. 즉 AI가 증명을 내놓았다고 해서 곧바로 "해결"이 되는 것이 아니라, 사람이 읽고 이해하고 반박할 시간을 최소 2년 확보한 다음에야 공식 인정 절차가 시작된다. 오픈AI의 나비에-스토크스 증명도 이 규정에 따라 아직 미해결 문제 목록에 남아 있다.

밀레니엄 문제 7개

리만 가설 · P 대 NP · 나비에-스토크스 · 호지 추측 · 양-밀스 질량 간극 · 버치-스위너턴다이어 · 푸앵카레 추측(2003년 해결)

상금과 검증

문제당 100만 달러. 학술지 게재 후 2년 검토, 이후 자문위원회 심사. 페렐만은 상금 거부

호지 추측 뜻 — 도형의 구멍을 방정식으로 설명할 수 있는가

호지 추측은 1950년 국제수학자대회에서 영국 수학자 윌리엄 호지가 제기한 문제로, 다항식 방정식으로 정의된 도형의 위상적 특징을 그 도형 안의 더 작은 대수적 도형들로 설명할 수 있는지를 묻는다. 여기서 도형이란 복소수 위에서 다항식의 공통 영점으로 정의되는 매끄러운 사영 대수다양체 X이고, 위상적 특징이란 코호몰로지라는 도구로 잰 "구멍"의 정보다. 대수적 부분다양체 하나하나는 코호몰로지 안에 자기 흔적, 즉 류를 남기는데, 호지 추측은 특정 종류의 류가 전부 그런 흔적의 유리수 배 합으로 나오는지를 묻는다.

조금 더 정확히 쓰면 이렇다. 복소 다양체의 코호몰로지는 두 정수 p, q로 색인되는 조각들로 쪼개지는데, 이것을 호지 분해라고 부른다.

$$H^{k}(X,\mathbb{C}) = \bigoplus_{p+q=k} H^{p,q}(X)$$

호지 분해 — 차수 k의 코호몰로지가 (p,q)형 조각들의 직합으로 나뉜다

기호를 풀면 H^k(X, ℂ)는 복소수 계수로 잰 차수 k의 코호몰로지, 즉 k차원 방향의 구멍 정보를 담는 벡터 공간이고, H^p,q는 그 안에서 정칙 방향 p개, 반정칙 방향 q개를 가진 미분형식으로 이루어진 조각이다. 대수적 부분다양체가 남기는 류는 항상 유리수 계수를 가지면서 동시에 (p,p) 조각에 들어간다. 호지 추측은 그 역이 성립하는지를 묻는다.

$$\text{Hdg}^{p}(X) = H^{2p}(X,\mathbb{Q}) \cap H^{p,p}(X) \;\overset{?}{=}\; \text{대수적 사이클 류의 } \mathbb{Q}\text{-생성 공간}$$

호지 추측 — 유리 (p,p)류는 모두 대수적 사이클에서 온다는 주장

왼쪽의 Hdg^p(X)를 호지 류라고 부른다. 유리수 계수 코호몰로지 H^2p(X, ℚ) 가운데 (p,p)형에 속하는 것들이다. 오른쪽은 X 안의 여차원 p인 대수적 부분다양체들이 남긴 류를 유리수 배로 더해 만든 공간이다. 추측은 이 둘이 같다는 것이고, 왼쪽이 오른쪽을 포함한다는 방향은 이미 알려져 있으므로 실제 질문은 "모든 호지 류가 대수적이냐"로 좁혀진다. p = 1인 경우는 1924년 레프셰츠가 증명했고, 정수 계수로 바꾼 버전은 1961년 아티야와 히르체브루흐가 반례를 찾아 무너뜨렸기 때문에 지금 남은 것은 유리수 계수 버전뿐이다.

밀레니엄 문제 난이도 순위와 호지 추측이 어려운 이유

밀레니엄 문제 난이도 순위를 묻는 검색이 많지만 공식 순위는 없다. 다만 수학자들 사이에서는 호지 추측이 가장 서술하기 어렵고 접근로도 가장 적은 문제로 자주 꼽힌다. 리만 가설이나 P 대 NP는 문제 자체는 한 문장으로 말할 수 있고 부분 결과가 수백 편 쌓여 있는 반면, 호지 추측은 문장을 이해하는 데만 대수기하와 복소해석, 위상수학의 대학원 과정이 필요하고, 일반 차원에서 통하는 전략이 거의 없다. 나비에-스토크스가 특이점 하나를 만드는 구성 문제라면, 호지 추측은 모든 다양체에 대해 존재를 보장해야 하는 문제라 방향이 반대다.

그래서 AI가 호지 추측에 근접했다는 보도가 사실이라면 그 의미는 나비에-스토크스 때보다 크다. 문제는 검증이다. 증명이 수천 쪽에 이르거나 사람이 따라가기 어려운 형태라면, 린(Lean) 같은 증명 검증 언어로 형식화해 기계가 확인하는 절차가 함께 요구될 가능성이 높다. 밀레니엄 문제 상금 규정이 2년의 검토 기간을 두는 이유도 결국 "맞는 증명"과 "이해된 증명"이 다르기 때문이다.

개인적으로 호지 추측을 처음 접했을 때는 문장 자체가 벽처럼 느껴졌는데, 평면 위의 곡선처럼 낮은 차원에서 "구멍의 개수"와 "방정식으로 그릴 수 있는 도형"이 맞물리는 그림을 먼저 그려 보니 질문의 뼈대가 잡혔다. 위상은 대충 모양만 보고, 대수는 정확한 방정식을 보는데, 둘이 같은 정보를 담고 있느냐는 질문이었다. 이번 뉴스를 계기로 밀레니엄 문제 목록을 다시 훑어보니 문제마다 "쉬운 차원에서는 참"이라는 공통점이 있고, 어려움은 늘 차원을 올리는 순간 시작된다는 점이 새삼 눈에 들어왔다.

정리하면 오픈AI가 호지 추측에 근접했다는 소식은 아직 보도 단계이고, 해법이 나오더라도 밀레니엄 문제의 공식 해결까지는 학술지 게재와 2년의 검토라는 긴 절차가 남아 있다. 그러나 한 달 사이에 밀레니엄 문제 두 개가 AI의 사정권에 들어왔다는 사실 자체는 수학 연구의 방식이 바뀌고 있다는 가장 분명한 신호다. 호지 추측의 문장을 읽을 수 있게 되는 것만으로도 이 변화를 따라가는 데 큰 도움이 될 것이다.

함께 읽으면 좋은 글

나비에 스토크스 방정식 AI가 풀었다? 오픈AI 88시간 증명과 밀레니엄 문제 총정리 에르되시 이어 리만 가설 노리는 AI — 리만 가설이란, 100만 달러 난제 총정리 허준이 등 필즈상 25인 공동선언 — AI 난제 풀이 경쟁 경고, 필즈상 뜻 총정리 오일러 공식 증명과 유도 — 복소수·삼각함수로 이해하기 베이즈 정리란? 공식과 뜻, 검사 결과를 읽는 법

참고 자료

AI타임스 — 오픈AI, 또 다른 밀레니엄 수학 문제 '호지 추측' 해결에 근접 (2026-09-18) Clay Mathematics Institute — Millennium Prize Problems 공식 페이지와 수상 규정 Clay Mathematics Institute — Hodge Conjecture 문제 설명(피에르 들리뉴 작성) AI타임스 — 오픈AI 나비에-스토크스 해결 발표와 NYU·앤트로픽 표절 공방 필즈상 수상자 25인 공동선언 — 수학에서 AI의 목표 불일치에 관한 성명