미공개 research 버전이 수십 년 누적된 인간 진전을 한 번에 넘어선 부분 결과
Anthropic이 2026년 8월 10일 공식 발표한 결과에 따르면, 미공개 research 버전의 Claude가 리만 가설(Riemann hypothesis) 자체를 풀지는 못했으나, 리만 제타 함수의 비자명 영점(non-trivial zeros) 중 가설을 만족하는 비율의 하한을 기존 41.6%에서 67.2%로 크게 끌어올렸다. 이는 순수 수학에서 AI가 실질적인 경계 개선을 이룬 사례로, 모델 능력과 과학 가속 논의의 새로운 기준점이 되고 있다.
확인된 결과와 범위
Anthropic 공식 연구 페이지와 Claude가 작성한 논문에 따르면, 결과는 다음과 같이 정리된다.
- 비자명 영점 중 임계선(critical line, 실수부가 1/2) 위에 있는 비율의 하한이 41.6%에서 67.2%(정확히는 최적화된 경우 약 67.25%)로 상향.
- 단순(simple) 영점이면서 임계선 위에 있는 비율 역시 최소 67.25%.
- 전체 영점 중 서로 다른(distinct) 영점의 비율 하한은 약 83.625%로 개선.
- 고정된 원시 디리클레 L-함수(fixed primitive Dirichlet L-functions)에도 유사한 비율이 성립.
- 완성된 제타 함수의 도함수 ξ′에 대해서도 더 높은 비율(단순·임계선 86.864%, distinct 93.432%)이 도출됐다.
이 결과는 점근적(asymptotic) 하한으로, 특정 높이 T까지의 유한 개수에 대한 주장이 아니라 lim inf 형태의 무한 높이 비율이다. 리만 가설의 완전한 증명(100% 모든 영점이 임계선 위에 있다)과는 명확히 구분된다.
역사적 맥락: 느린 인간 진전의 궤적
리만 가설은 1859년 제안된 이후 미해결로 남아 있으며, 클레이 수학연구소의 밀레니엄 문제 중 하나다. 가설 자체를 증명하지 못한 채, 수학자들은 “적어도 어느 정도의 비율이 임계선 위에 있는가”를 단계적으로 높여 왔다.
- 1914년 Hardy: 임계선 위에 무한히 많은 영점이 존재함을 증명.
- 1942년 Selberg: 양의 비율(positive proportion)이 존재함을 보였으나 구체적인 수치는 제시하지 않음.
- 1974년 Levinson: 1/3 이상으로 끌어올림(단순 영점 포함).
- 1989년 Conrey: 2/5(40%) 이상으로 개선.
- 이후 Bui–Conrey–Young 등에서 약 41%대까지 미세 상향.
- 2019–2020년 Pratt–Robles–Zaharescu–Zeindler: 5/12(약 41.67%)로 기록 경신. 이후 수년간 큰 변화가 없었다.
이전 기록은 주로 ‘mollifier’ 기법을 정교화하는 방식으로 점진적으로 개선됐다. 반면 Claude의 결과는 Montgomery의 1973년 쌍상관(pair correlation) 기법과 최근 Baluyot–Goldston–Suriajaya–Turnage-Butterbaugh의 무조건부 결과, Bombieri의 2000년 논문을 결합해 한 번에 25%포인트 이상 뛰어넘었다. 이는 이 분야에서 수십 년간의 누적 진전을 단번에 넘어선 규모다.
기술적 돌파의 핵심
Claude가 사용한 핵심 아이디어는 다음과 같다.
- 제로를 ‘임계선 위’와 ‘밖’으로 분리해 분석하던 기존 접근을, Weil의 명시적 공식에서 유도된 유한 차원 에르미트 이차형(Hermitian quadratic form)으로 통합.
- 실베스트르 관성 법칙(Sylvester’s law of inertia)과 폰 노이만 트레이스 부등식을 활용해, 온라인 영점이 만드는 양의 정부호 부분공간의 랭크를 하한으로 추정.
- 쌍상관 입력은 대역폭 λ ≤ 1인 Montgomery의 무조건부 평가를 그대로 사용. RH를 가정하지 않고도 2/3 이상의 하한을 도출.
- 최적화된 테스트 함수(Montgomery–Taylor 스타일 커널)를 적용해 67.25%까지 정밀화.
이 과정은 단일 프롬프트로 이루어진 것이 아니다. Anthropic 직원(비수학자)이 “리만 가설에 진짜로 도전해 보라”고 지시한 후, Claude는 약 650개의 아이디어를 먼저 시도했으나 모두 실패했다. 이후 약 60개의 서브에이전트를 조율하는 멀티에이전트 방식으로 이틀에 걸쳐 3,100만 출력 토큰과 2,400회의 셸 명령을 실행하며 수치 검증과 상호 심사까지 수행했다. 결과물은 Lean으로 형식 검증된 증명과 함께 공개됐다.
검증 과정과 명시적 한계
Anthropic 내부 수학자 2명(Levent Alpöge, Ralph Furman)이 Claude의 논문을 검토하고 전문가용 간결 노트를 작성했으며, 외부 전문가 Brian Conrey와 Dan Goldston이 단기간에 논문을 검토했다. Lean 증명은 공개 저장소에서 표준 검증 도구로 통과 가능하다.
그러나 한계는 명확히 선언됐다.
- 이 기법이 리만 가설 자체로 이어질 가능성은 낮다고 Anthropic이 직접 밝혔다. 하한만 제공하며, 나머지 약 32.75%에 대해서는 아무것도 말하지 않는다.
- 방법론은 대역폭 1의 쌍상관 데이터에 의존하므로, 더 높은 비율(70% 이상)을 위해서는 더 넓은 지지 영역이 필요하다.
- 결과물은 평균적인 비율에 대한 것이며, 예외 집합이 희소하게 존재할 가능성을 배제하지 못한다.
- 모델이 미공개 research 버전이므로 전체 과정을 엔드투엔드로 재현하기는 어렵다. 그러나 수학적 주장 자체는 공개된 논문과 Lean 코드로 검증 가능하다.
심층 분석: 의미와 전망
이 사건은 여러 층위에서 의미를 가진다.
수학적 관점
순수 해석적 정수론에서 AI가 기존 인간 연구의 ‘조합적 재구성’을 통해 실질적 경계를 넘어선 첫 대형 사례 중 하나다. Montgomery의 RH-조건부 2/3를 무조건부로 달성했다는 점은, 쌍상관 방법론의 잠재력을 재확인시킨다. 동시에 이 방법이 더 이상 큰 개선을 내기 어렵다는 점도 드러났다.
AI 능력 평가 관점
단순한 벤치마크 점수나 알려진 문제 해결을 넘어, 열린 문제의 관련 부분에서 새로운 조합을 발견하고 형식 검증까지 마친 사례다. 멀티에이전트 조율, 수치 검증, 적대적 심사 과정이 결합된 점이 특징적이다. 다만 ‘창조’보다는 ‘기존 결과의 정교한 재배치와 연결’에 가깝다는 평가도 가능하다.
과학 연구 프로세스 관점
인간이 프롬프트를 주고 격려만 하는 상황에서, AI가 장시간 자율적으로 탐색·검증하는 패턴이 나타났다. 이는 향후 ‘수학자 + AI 오케스트레이션’ 모델의 가능성을 시사한다. 동시에 검증 책임은 여전히 인간 전문가에게 남아 있다는 점도 분명하다.
한계와 과대해석 경계
일부에서 “AI가 수학 역사를 바꿨다”는 식의 표현이 나오지만, 리만 가설 자체는 여전히 미해결이다. 이 결과는 ‘비율의 하한’을 올린 것이지, 가설의 진위를 결정하거나 증명에 직접 기여하는 것은 아니다. 또한 모델이 미공개 버전이라는 점은, 일반 사용자가 동일한 결과를 즉시 재현하기 어렵다는 현실적 제약을 남긴다.
종합하면, 이번 결과는 AI가 순수 수학의 점진적 경계를 가속할 수 있다는 점을 실증적으로 보여주면서도, 그 가속의 성격이 ‘기존 아이디어의 새로운 조합과 엄밀한 검증’에 있다는 점을 동시에 드러낸다. 리만 가설의 완전한 해결까지는 여전히 먼 길이지만, 그 주변의 정량적 지표가 한 단계 크게 이동한 것은 분명하다.