에르되시 문제 AI가 반례로 깼다 — 단위 거리 추측 80년 만에 붕괴

📐 수학 이야기

에르되시 문제 가운데 80년 된 단위 거리 추측을 AI가 반례로 무너뜨렸다. 문제의 뜻, 격자 점 구성, 지수 1.014의 의미, 에르되시 문제 사이트 활용법과 ICM 2026에서 나온 수학자들의 반응까지 정리한다.

2026년 5월 20일 OpenAI는 내부 추론 모델이 에르되시 문제 중 하나인 단위 거리 추측(unit distance conjecture)의 반례를 스스로 찾아냈다고 발표했다. 1946년 폴 에르되시가 제기한 이 추측은 평면 위 점 n개 사이에 거리 1인 쌍이 얼마나 많을 수 있는지를 묻는다. 80년 가까이 "격자보다 잘할 수 없다"고 믿어 왔는데, AI가 격자를 이기는 점 배치를 구성해 그 믿음이 틀렸음을 보였다. 이어 9월 3일 공개된 국제수학자대회(ICM 2026) 현장 대담에서 수학자들은 이 사건이 수학이라는 일 자체의 의미를 바꾸고 있다고 말했다.

에르되시 문제란 무엇인가?

에르되시 문제는 헝가리 수학자 폴 에르되시(1913~1996)가 평생 동안 던진 미해결 질문들을 통틀어 부르는 이름이다. 그는 1,500편이 넘는 논문을 썼고, 논문과 강연에서 "이건 아직 모르겠다"는 질문을 수천 개 남겼다. 어떤 문제에는 직접 상금을 걸기도 했다. 몇 년 전 영국 수학자 토머스 블룸이 이 질문들을 한데 모아 번호를 붙인 에르되시 문제 데이터베이스(erdosproblems.com)를 만들었고, 자동완성에 "에르되시 문제 사이트", "에르되시 문제 목록", "에르되시 문제 728"처럼 번호까지 따라붙는 건 그 사이트 덕분이다.

에르되시 문제가 특별한 이유는 질문이 짧고 초등적으로 서술되는데도 답이 극도로 어렵다는 점이다. 정수론, 조합론, 그래프 이론, 이산 기하가 대부분이라 "문제를 이해하는 데 5분, 푸는 데 50년"이라는 말이 붙는다. 그리고 바로 그 성질 때문에 최근 AI의 좋은 시험장이 됐다. 문제 서술이 명확하고, 정답 여부를 형식 검증으로 따질 수 있기 때문이다.

단위 거리 추측은 무엇을 묻는가?

평면 위에 서로 다른 점 n개를 놓는다. 두 점 사이 거리가 정확히 1인 쌍의 개수를 $u(n)$이라 하자. 점을 어떻게 놓아야 이 개수가 최대가 될까? 정삼각형 격자를 쓰면 점 하나마다 이웃이 6개라서 대략 $3n$개는 쉽게 만든다. 에르되시는 정사각 격자를 적절한 크기로 잘라 쓰면 그보다 훨씬 많이, 즉 다음 정도까지 만들 수 있음을 보였다.

$$u(n) \ge n^{\,1 + c/\log\log n}$$

격자 구성에서 나오는 하한. $c$는 양의 상수

여기서 $\log\log n$은 로그를 두 번 취한 값이라 아주 천천히 커진다. 그래서 지수 $1 + c/\log\log n$은 1보다 크지만 1에 한없이 가까워지는 값이다. 에르되시는 이것이 최선이라고, 즉 어떤 점 배치도 이 격자보다 본질적으로 많은 단위 거리를 만들 수 없다고 추측했다. 이것이 단위 거리 추측이다. 반대 방향의 상한은 1984년 스펜서·세메레디·트로터가 증명한 $u(n) \le C n^{4/3}$이 40년 넘게 최고 기록이었고, 격자의 하한과 $n^{4/3}$ 사이의 간격을 좁히는 것이 에르되시 문제 중에서도 가장 유명한 미해결 과제였다.

AI는 어떻게 반례를 찾았나?

OpenAI 발표에 따르면 모델은 사람이 문제만 넣어 준 상태에서 정사각 격자가 아닌 새로운 무한 점족(點族)을 구성했고, 그 배치가 격자 하한을 다항식 인자만큼 넘어선다는 사실을 증명했다. 이후 프린스턴의 윌 소인이 구성을 다듬어 지수를 명시적으로 계산했는데, 그 값이 $n^{1.014}$ 수준이다. 숫자만 보면 1.014는 1에 아주 가까워 보이지만, 격자의 지수 $1 + c/\log\log n$은 n이 커질수록 1로 수렴하므로 고정된 1.014는 결국 격자를 압도한다. 추측이 "격자가 최선"이었으니 이 하나의 구성으로 추측은 거짓이 됐다.

더 흥미로운 것은 증명에 쓰인 도구다. OpenAI가 함께 낸 해설 논문은 이 구성이 엘렌버그·벤카테시, 골로드·샤파레비치, 하지르·마이어·라마크리슈나의 대수적 정수론 결과를 이용한다고 적었다. 평면 기하 문제를 수체(number field)의 무한 탑 구조로 끌고 간 셈인데, 사람이 80년 동안 떠올리지 못한 연결이었다. 발표 직후 보리스 알렉세예프는 ChatGPT를 이끌어 반례 전체를 증명 보조기 Lean으로 형식화했다고 Lean Zulip에 알렸다. 공리 외에는 아무것도 가정하지 않은 완전 검증이다.

ICM 2026 대담에서 러트거스대의 알렉스 콘토로비치는 이 결과를 두고 "사람이 냈어도 훌륭한 기여"라고 평했고, 반례가 나온 지 일주일 만에 사람 수학자들이 AI가 드러낸 기법을 써서 전혀 다른 문제인 합·곱 문제(sum-product problem)를 부정적으로 해결했다고 전했다. 도구 하나가 풀리자 인접한 에르되시 문제까지 연쇄로 움직인 것이다.

에르되시 문제 AI 해결, 얼마나 믿을 수 있나?

단위 거리 반례처럼 형식 검증까지 끝난 결과와, 인터넷에 매일 올라오는 "에르되시 문제 GPT로 해결" 주장은 구별해야 한다. 콘토로비치는 대담에서 "AI에 문제 1,000개를 주면 적중률이 1%쯤인데, 그게 1년에 좋은 논문 10편이고 수학자로선 대단한 경력"이라고 말했다. 뒤집어 말하면 나머지 99%는 부분 진전이거나 완전한 헛소리라는 뜻이다. 스탠퍼드의 라비 바킬은 검증되지 않은 AI 증명 주장이 이메일함에 쌓이고 있고, 자신은 그것들을 확인하지 않겠다고 했다. IAS의 악샤이 벤카테시는 학술지와 심사 체계가 엄청난 압박을 받게 될 것이라 경고했다.

따라서 에르되시 문제 해결 소식을 볼 때 확인할 것은 세 가지다. 첫째, 에르되시 문제 사이트에서 해당 번호의 상태가 실제로 "해결됨"으로 바뀌었는가. 둘째, Lean 같은 증명 보조기로 형식 검증이 됐거나 전문가 심사를 통과했는가. 셋째, 기존 기법의 재조합인가 아니면 새 도구가 등장한 것인가. 단위 거리 추측은 세 조건을 다 만족하는 드문 사례이고, 그래서 지난 8월 "AI가 에르되시 문제 11개를 풀었다"는 소식보다 수학계 안에서 훨씬 무겁게 받아들여진다.

수학자들은 AI 시대 수학을 어떻게 보나?

9월 3일 Quanta Magazine이 공개한 대담은 7월 26일 필라델피아 ICM 2026 현장에서 녹음됐다. 세 수학자의 결론은 비관이 아니었다. 벤카테시는 수학은 이야기하기에 가깝고 증명은 그 문법일 뿐이라고 했다. 바킬은 국제수학올림피아드에서 AI가 2024년 은메달, 2025년 금메달을 받은 것에 놀라지 않는다며, 진짜 걱정은 AI를 핑계로 수학 교육 예산을 줄이는 반지성주의라고 했다. 콘토로비치는 지게차로 벤치프레스를 하면 근육이 늘지 않듯 AI로 숙제를 대신하면 "좌절을 견디는 체력"을 잃는다고 비유했다.

고등학생이나 학부생 입장에서 이 대담이 주는 실용적 메시지는 분명하다. 계산기가 70년 동안 있었어도 계산을 잘 이해하는 사람이 계산기도 잘 쓴다. 콘토로비치는 최근 시험 점수 분포가 종 모양이 아니라 두 봉우리로 갈라졌다고 했다. AI로 이해를 앞당긴 학생과 숙제를 외주 준 학생이 갈라진 것이다. 에르되시 문제가 AI에 하나둘 풀리는 시대에 필요한 건 문제를 더 빨리 푸는 능력보다, 어떤 문제가 풀 가치가 있는지 알아보는 감각이라는 데 세 사람 모두 동의했다.

개인적으로 단위 거리 문제는 학부 조합론 수업에서 처음 만났다. 정사각 격자를 그려 놓고 $n^{4/3}$ 상한과 격자 하한 사이의 틈이 왜 40년 동안 안 좁혀지는지 교수님이 설명하던 장면이 기억난다. 그때는 상한을 낮추는 쪽이 정답이라고 다들 믿었는데, 답은 반대편, 하한을 올리는 쪽에 있었다. 문제를 오래 들여다본 사람일수록 "격자가 최선"이라는 전제를 의심하기 어려웠다는 점이, 사람이 아니라 AI가 이 에르되시 문제를 먼저 뒤집은 이유의 절반쯤은 설명해 주는 것 같다.

함께 읽으면 좋은 글

AI가 에르되시 문제 11개 풀었다 — 에르되시 미해결 문제 총정리 피타고라스 정리 증명과 공식, 활용까지 완벽 정리 도박사의 오류란? 뜻과 사례, 큰수의 법칙과 다른 점

참고 자료

Quanta Magazine — Live from ICM 2026: What Is Math For in the Age of AI? (2026.09.03) arXiv 2605.20695 — Remarks on the disproof of the unit distance conjecture Xena Project — Human mathematicians are being outcounterexampled (2026.07.20) Erdős Problems 데이터베이스 (Thomas Bloom)