OpenAI, 나비에–스토크스 밀레니엄 문제 해법 발표

내부 모델과 약 1만 개 에이전트가 유한 시간 특이점 존재를 제시했다. 같은 날 선행 유체역학 결과와 정보 유입 여부를 둘러싼 논란이 함께 제기됐다.

발표의 핵심

OpenAI는 2026년 9월 8일, 클레이 수학연구소(Clay Mathematics Institute)가 2000년에 지정한 7개 밀레니엄 문제 중 하나인 3차원 비압축성 나비에–스토크스 존재·평활성 문제에 대해 해를 공개했다. 회사는 미공개 내부 모델과 협력 에이전트 군집이 해석적 증명과 Lean 형식화를 만들었다고 밝혔다.

회사에 따르면 결과는 다음과 같다.

처음에 매끄럽고 정지해 있던 유체가 유한 시간 안에 특이점(속도가 발산하는 블로우업)을 만들 수 있다.
외부힘은 매끄럽고, 전 구간에 걸쳐 에너지는 유한하다.
공식 문제 서술의 C항과 D항, 즉 유클리드 공간 $\mathbb{R}^3$ 와 주기 영역 $\mathbb{T}^3$ 에서 강제항이 허용된 붕괴(breakdown) 명제를 해결했다고 주장한다.

특이점의 형상은 안쪽으로 감으며 가늘어지는 소용돌이로 설명됐다. 중심 영역이 줄어드는 동시에 회전이 빨라지지만, 에너지는 유한하게 유지되는 구조다.

BBC는 이 결과가 밀레니엄 문제 서술의 네 명제 중 두 개를 다룬다고 전했다. OpenAI는 100만 달러 상금을 청구할 의사가 없다고 밝혔다. 클레이 연구소의 공식 인정은 아직 없다.

이 문제가 묻는 것

나비에–스토크스 방정식은 점성이 있는 유체의 운동을 기술한다. 기상, 항공기, 혈관 흐름 같은 계산의 기본식에 가깝다. 그러나 3차원에서 매끄러운 초기 자료가 영원히 매끄러운 해를 유지하는지, 아니면 유한 시간에 식이 붕괴하는지는 1930년대 이후 닫히지 않았다.

찰스 페퍼만(Charles Fefferman)이 작성한 공식 서술은 크게 두 갈래다.

A·B: 외력이 없는 경우, 전 시간 구간에서 매끄러운 해가 존재함을 증명한다.
C·D: 허용된 매끄러운 외력을 포함해, 유한 시간에 매끄러운 해가 더 이상 존재하지 않는 예를 제시한다.

어느 한쪽을 확정하면 문제의 해로 인정될 수 있는 구조다. OpenAI가 겨냥한 것은 후자다. 즉 “항상 매끄럽다”가 아니라 “붕괴하는 경우가 있다”는 쪽이다.

이 구분은 실용적 해석에도 영향을 준다. 이번 주장이 맞더라도, 난류를 예측하는 일반해가 나온 것은 아니다. 특정한 매끄러운 외력 아래 수학적 모형이 무한 속도에 도달할 수 있음을 보인 것이다. 실제 유체는 무한 속도로 움직이지 않으므로, 그 지점에서 연속체 모형이 한계에 닿는다는 의미로 읽힌다.

확인된 일정과 투입 규모

OpenAI가 밝힌 내부 일정은 다음과 같다.

8월 28일: 수학 성능이 높다고 평가한 내부 모델 학습을 시작.
9월 1일: 밀레니엄 문제 일부가 풀렸다는 소문을 계기로 평가를 확대.
9월 5일: 나비에–스토크스 관련 에이전트가 해석적 해에 도달. 착수 후 약 88시간.
9월 6일: GPT-6 Astra로 Lean 형식화·검증을 추가로 약 17시간 수행.
9월 8일: 논문 초안과 Lean 코드를 공개.

규모 수치도 회사가 제시했다.

나비에–스토크스 본작업에 약 1만 개 동시 에이전트.
관련 오일러 문제에는 약 100개 에이전트, 약 50시간.
나비에–스토크스만 메시지 약 270만–300만 건, 출력 토큰 약 1,300억 개.
같은 주 전체 밀레니엄 시도는 출력 토큰 약 3,000억 개.

비용 추정은 매체마다 다르다. BBC는 최상위 모델 출력 요금 기준으로 약 1,000만 달러, 뉴사이언티스트는 기자회견에서 나온 약 1,500만 달러, 테크크런치는 아스트라 요금 환산 시 주간 전체 작업이 약 2,250만 달러에 해당한다고 적었다. 실제 내부 한계비용은 공개되지 않았다.

모델 이름은 공개되지 않았다. 회사는 GPT-6 Astra보다 성능이 높다고만 했다.

같은 날 나온 선행·병행 결과

발표 직전, 뉴욕대 수학자 트리스탄 벅마스터(Tristan Buckmaster)와 앤트로픽 소속 레벤트 알푀게(Levent Alpöge)가 관련 유체역학 결과를 공개했다. 대상은 나비에–스토크스 본식이 아니라 그 인접 모형이다.

3차원 비압축성 오일러 방정식.
2차원 부시네스크 계.
비압축성 다공매질 방정식.

둘은 디에고 코르도바(Diego Córdoba)와 루이스 마르티네스-소로아(Luis Martínez-Zoroa)가 열어 둔 ‘무한 층 캐스케이드’ 경로를 이어갔고, 앤트로픽과 OpenAI의 언어모델을 보조 도구로 썼다고 밝혔다. 오일러 쪽 일부는 Lean으로 형식화됐다. 나비에–스토크스 본식의 완전한 해는 이 단계의 대상이 아니었다.

프린스턴대의 페퍼만은 문제가 풀린 것 자체는 반기면서, 이야기의 중심 인물로 코르도바와 마르티네스-소로아를 지목했다. 콴타 매거진에 따르면 두 사람의 2023년 결과는 특이점을 보였으나 외력의 성질이 밀레니엄 기준에 미치지 못했다. 이후 작업의 핵심은 외력을 매끄럽게 유지한 채 같은 아이디어를 밀어 올리는 일이었다.

공로와 데이터 접근 논란

논쟁의 축은 증명의 참·거짓이 아니라 착수 시점과 정보 경로다.

벅마스터 측 주장

벅마스터는 공개 성명에서 다음을 적었다.

자신과 알푀게가 택한 경로는 페퍼만 서술의 C·D, 즉 매끄러운 외력을 쓰는 드문 루트다.
그 진행 상황이 OpenAI에 알려진 뒤에야 회사의 대규모 연산이 같은 방향으로 투입됐다.
초안과 계산 기록이 OpenAI 코덱스에 있었기 때문에, 모델이나 내부자가 그 세션을 봤는지 확인할 수 없다.
다만 모델이 무엇을 했는지, 데이터가 쓰였는지는 알지 못하며 누군가를 고발하는 것은 아니라고 선을 그었다.

테크크런치는 추가 주장을 보도했다. OpenAI가 알푀게 이름을 빼는 형태의 공동 발표안을 제안했고, 세바스티앵 뷔벡(Sébastien Bubeck)이 공개 문제 제기를 말리며 발언했다는 내용이다. 뷔벡 측은 이를 거짓이고 선동적이라고 반박한 것으로 다른 매체에 전해졌다. 통화 내용은 독립적으로 녹취 검증되지 않았다.

OpenAI 측 주장

회사 공식문과 기자간담회 요지는 다음과 같다.

9월 1일 소문을 듣고 작업을 시작했으며, 소문의 당사자가 벅마스터·알푀게였음을 나중에 알았다.
9월 6일 형식화가 끝난 뒤 동시 공개와 우선권 인정을 제안하러 접촉했다.
그때 확인한 상대 결과는 강제 오일러이지 나비에–스토크스가 아니었다.
공개 전까지 두 사람의 원고를 보지 않았고, 특정 사용자 데이터를 검색하지 않았다.
비식별 사용 데이터가 모델 개선에 쓰였을 가능성은 완전히 배제할 수 없다.
증명 경로와 정확한 명제는 서로 다르다. OpenAI는 비강제 오일러도 별도로 다뤘다고 적었다.

연구책임자 마크 천(Mark Chen)은 기자들과의 통화에서 “사람이나 AI 시스템이 이 문제를 풀기 위해 사용자 데이터를 뒤지지 않았다”고 말했다.

양쪽 진술은 일정표의 큰 골격에서는 겹친다. 회사 작업이 9월 1일 이후에 집중됐고, 상대의 오일러 결과가 그보다 앞선다는 점이다. 갈리는 지점은 ‘소문만으로 방향을 정한 것인지, 미공개 방법론의 윤곽을 얻은 것인지’다.

수학 커뮤니티의 반응 축

반응은 세 갈래로 나뉜다.

돌파로 보는 쪽

밀레니엄급 명제를 AI 시스템이 해석 증명과 형식 검증까지 밀어 올린 첫 사례로 본다. 지난 1년 동안 언어모델이 개별 추측을 처리해 온 흐름의 연장선으로 해석한다. 클레이 연구소 소장 마틴 브리든(Martin Bridson)은 수학 이해의 진전이라는 점에서 의미 있는 날이라고 말했다.

연구 윤리·우선권을 문제 삼는 쪽

도구를 제공하는 실험실이 미공개 연구 방향을 빠르게 재현할 수 있다는 점이 쟁점이다. 연구자가 코덱스나 클로드에 초안을 올리는 순간, 그 정보가 모델 개선이나 내부 연구 우선순위에 간접 반영될 수 있는지에 대한 산업 표준은 없다. 기업 고객 데이터 학습 금지와 일반 사용자 옵트아웃만으로는 이 공백을 메우지 못한다는 지적이 나온다.

수학적 범위를 좁혀 읽는 쪽

설령 Lean 검증이 버텨도, 이 결과는 ‘외력이 있는 붕괴 예’다. 외력 없는 전역 정칙성(A·B)은 별개 문제다. 난류의 통계적 기술이나 수치예보의 신뢰 구간을 바로 바꾸지 않는다. UCLA의 테렌스 타오(Terence Tao)는 문제가 묻는 바를 “어떤 초기 흐름이 유한 시간에 무한 속도로 터질 수 있는가”로 정리했다. 시뮬레이션에서 그런 현상이 관측된 적은 없다고 덧붙였다.

아직 남아 있는 검증

발표 다음 날 기준으로 닫히지 않은 항목은 명확하다.

클레이 연구소의 공식 심사와 수락 여부. 연구소는 상금 문제를 자체 절차로 판단하며, 회사의 비청구 의사와는 별개다.
인간 전문가에 의한 증명 독해. Lean은 논리 비약을 줄이지만, 형식화된 명제가 페퍼만 서술과 정확히 같은지는 별도 확인이 필요하다.
강제/비강제, 공간 영역, 외력의 감쇠 조건이 공식 허용 범위 안에 있는지.
코덱스 등 제품 사용 기록이 내부 모델 개선에 들어갔는지. 회사도 비식별 데이터 가능성을 닫지 않았다.
코르도바–마르티네스-소로아, 벅마스터–알푀게, OpenAI 결과 사이의 기술적 의존 관계를 논문 단위로 재구성하는 일.

위키피디아 밀레니엄 문제 항목은 2026년 9월 9일 시점에 OpenAI 발표와 우선권 분쟁을 병기하고, 클레이의 수락은 적지 않았다. 포앵카레 추측 이후 두 번째 밀레니엄 문제 해로 기록될지는 심사 결과에 달려 있다.

이 사건이 남기는 구조적 문제

수학 내용과 별개로, 이번 발표는 연구 생산 방식의 변화를 드러낸다.

프론티어 수학이 ‘장기간의 개인 숙고’만이 아니라 ‘방향이 잡힌 뒤의 대규모 탐색’으로 옮아가고 있다. 88시간은 착수 이후의 계산 시간이지, 선행 이론의 누적 시간은 아니다.
인간 연구자와 실험실 모델이 같은 도구 스택을 쓸 때, 미공개 아이디어의 보호 범위가 불명확하다. 우선권 분쟁은 표절 입증보다 ‘소문의 정보량’을 다투는 형태가 되기 쉽다.
형식 검증 언어(Lean)가 사실상의 공동 심사 인프라가 되고 있다. 증명의 사회적 수용이 저널 게재보다 코드 저장소 검증에 더 빨리 의존하는 장면이다.
상금 100만 달러보다 모델 성능 신호와 상장 전 평판이 더 큰 유인으로 작동한다. OpenAI가 상금을 포기한 것은 그 비대칭을 보여 준다.

단기적으로는 증명 텍스트와 Lean 라이브러리가 유체역학·편미분방정식 커뮤니티에서 읽힐 것이다. 중기적으로는 연구용 AI 도구의 데이터 격리, 내부 연구와 고객 세션의 차단, 동시 발견 시의 공지 규칙이 실험실 정책의 쟁점이 될 가능성이 크다. 수학적 결론이 받아들여지더라도, 그 정책 공백은 이번 일정만으로 해소되지 않는다.

#AI 안전 #AI 산업