오픈AI 난제 공개 사흘 뒤, 검증·귀속·전승을 문제로 올렸다

필즈상 수상자 25명이 2026년 9월 11일 공동선언 「A Severe Misalignment of AI in Mathematics」를 냈다. 테렌스 타오의 블로그와 전용 사이트 mathandai.org, 프랑스 일간 르몽드에 같은 날 실렸다. 이코노미스트도 당일 이 선언을 보도했다.

선언은 오픈AI를 기소하는 문장이 아니다. 난제를 벤치마크로 삼아 속전 발표하는 관행이 증명 이후의 정리, 인용, 교육, 공동 검증을 건너뛴다고 본다. 발표 사흘 전 오픈AI가 클레이 연구소 밀레니엄 문제인 나비에–스토크스 존재와 매끄러움 문제에 대한 해법을 공개한 뒤였다.

필즈상 25인, 11일 선언문을 공개

타오는 최근 일주일간 수상자끼리 논의한 결과라고 적었다. 2026년 6월 레이던 선언처럼 폭넓은 의견 수렴은 하지 못했고, 상황을 급하다고 판단해 먼저 내기로 했다고 밝혔다. 추가 서명은 레이던과 같이 받겠다고 했다.

필즈상은 1936년 이후 2026년까지 68명에게 주어졌다. 이번 초기 서명자는 전원 수상자다. 1978년 피에르 들리뉴부터 2026년 덩위까지 들어 있다. 2026년 필라델피아 대회 수상자 4명 가운데 선언에 이름을 올린 사람은 덩위다.

초기 서명자 25명 전원 필즈상 수상자

  • 아르투르 아빌라(2014), 만줄 바르가바(2014), 카우처 비르카르(2018), 피에르 들리뉴(1978), 덩위(2026)가 명단에 있다.
  • 사이먼 도널슨(1986), 위고 뒤미닐코팽(2022), 알레시오 피갈리(2018), 마틴 하이레르(2014), 허준이(2022)가 함께 서명했다.
  • 막심 콘세비치(1998), 엘론 린덴스트라우스(2010), 피에르루이 리옹(1994), 제임스 메이너드(2022), 커트 맥멀런(1998)이 포함됐다.
  • 모리 시게후미(1990), 응오바오쩌우(2010), 안드레이 오쿤코프(2006), 페터 숄체(2018), 스타니슬라프 스미르노프(2010)가 이름을 올렸다.
  • 테렌스 타오(2006), 마리나 비아조우스카(2022), 세드릭 빌라니(2010), 벤들린 베르너(2006), 예핌 젤마노프(1994)가 25인을 채웠다.

타오 블로그와 르몽드가 같은 날 실었다

  • 영문 원문은 타오 블로그와 mathandai.org에 게시됐다. 레이던 선언 사이트와 같은 방식으로 추가 서명을 받겠다고 안내했다.
  • 르몽드는 25인 명의 기고로 같은 문장을 실었다. 제목은 기업 목표와 수학 공동체 목표가 심하게 어긋난다는 선언의 한 구절을 그대로 썼다.
  • 이코노미스트는 당일 과학기술면에서 오픈AI의 발표 방식을 둘러싼 반발을 보도했다. 지면 제목은 서명자 수를 24명으로 적었고, 타오와 공식 사이트는 25명으로 적었다.

선언문, 풀이를 목표와 구분한다

선언은 최근 몇 달 사이 대규모 언어모델이 여러 분야의 미해결 문제를 풀 수 있는 지점까지 왔다고 인정한다. 그다음 문장에서 기업이 수학 문제를 벤치마크로 푸는 압박이 수학이라는 학문과 공동체에 해롭다고 쓴다. 기업이 원하는 것과 수학자가 지키려는 것이 심하게 어긋난다고 본다.

유명 난제는 풍경을 재는 이정표로 다뤄 왔다. 풀린 뒤에는 강연, 토론, 단순화, 교재화를 거쳐 다음 세대가 쓸 도구가 된다. 선언은 참·거짓 문장을 더 빨리 대량으로 내놓는 일이 그 땅을 훼손할 수 있다고 적었다.

선언문이 문제로 올린 관행

  • 해법이 서두른 발표로 나가고, 제대로 된 원고와 새 방법의 분리, 선행 연구 인용이 빠지는 경우가 있다고 적었다.
  • 창작 분야에서와 같이 귀속과 표절 논란이 바로 생긴다고 봤다.
  • 아이디어를 수학의 표준 안으로 옮기는 일은 자원하는 수학자에게 남고, 그 고리가 끊기면 기계가 만든 생각은 살아남지 못한다고 썼다.
  • 수년의 훈련은 최종 답만이 아니라 이해와 새 질문을 만드는 능력이었는데, 이전 인간 작업 위에 올라탄 시스템이 결과물만 바로 내놓으면 그 목표가 더 이상 맞지 않는다고 했다.
  • 수학에서 지금 보이는 일은 다른 과학·창작 직종과 비슷하며, 일이 바뀌어도 그 일이 원래 얻으려던 것을 잃지 않는 방법이 사회 전체의 과제라고 적었다.
  • 인공지능이 연구를 도울 여지는 인정한다. 이득이 될지 손상일지는 기술을 다루는 사람의 결정에 크게 달려 있다고 본다.
  • 대응 주체로 수학 공동체, 개발 기업, 비슷한 문제에 부닥칠 사회를 함께 적었다. 구체 규제안이나 기업 실명은 문장에 넣지 않았다.

오픈AI, 8일 유체방정식 해법을 공개

오픈AI는 9월 8일 내부 시스템이 나비에–스토크스 존재와 매끄러움 문제에 대한 해석적 증명과 린 형식화를 냈다고 발표했다. 처음엔 매끄러운 정지 유체가 유한 시간 안에 특이점을 만들 수 있고, 가하는 힘은 매끄러우며 운동에너지는 유한하게 유지된다고 주장했다. 클레이가 적은 공식 문항의 C와 D를 세웠다고 적었다.

사이언스에 따르면 8월 28일 내부 모델 훈련을 시작했고, 9월 1일 소문을 들은 뒤 본격 투입했다. 9월 5일 아침 해법에 도달했고, 6일 린 형식화를 마쳤다. 해당 작업에 동시 에이전트 약 1만 대가 쓰였다고 회사는 밝혔다.

오픈AI가 공개한 투입 규모

  • 나비에–스토크스 해법에 이른 집단은 동시 에이전트 약 1만 대 규모였다고 회사 글에 적혀 있다.
  • 이 문제 처리 과정에서 에이전트가 보낸 메시지는 약 270만 건, 출력 토큰은 약 1,300억 개라고 밝혔다.
  • 시도한 문제 전체를 합치면 메시지 약 490만 건, 출력 토큰 약 3,000억 개라고 적었다.
  • 오일러 정칙성 반증에는 약 100대가 50시간 가까이 함께 일했다고 했다.
  • 마크 천 연구책임자는 비용이 수백만 달러 수준이라고 말했다. 뉴사이언티스트는 같은 작업을 고객이 돌리면 약 1,500만 달러라는 기자회견 발언을 전했다.
  • 린 저장소는 공개됐고, 기계 검증은 형식화된 정리가 린 환경에서 통과하는지를 확인한다. 아이디어의 출처나 연구 윤리 주장은 그 검사 범위 밖이다.
  • 오픈AI는 이 결과로 밀레니엄상 100만 달러를 청구할 뜻이 없다고 밝혔다.

야쿠브 파초키, 일반지능 평가라고 말했다

  • 수석과학자 야쿠브 파초키는 1년 전만 해도 모델이 고교 올림피아드와 겨룰 수 있는지를 봤고, 이번 일은 밀레니엄 문제를 오래 노린 프로젝트가 아니라 범용 지능 시스템 평가라고 말했다.
  • 세바스티앵 뷔베크는 다른 쪽이 다가왔다는 소문에 자원을 모았고, 처음엔 풀리지 않은 밀레니엄 문제 여러 개를 동시에 겨냥했다고 설명했다.
  • 회사 글은 이 이정표를 정점이 아니라 개발 과정의 한 장면이라고 적었다.

뉴욕대–앤트로픽 쪽, 선행 연구를 주장

같은 주 뉴욕대 트리스탄 벅마스터와 앤트로픽 소속 레벤트 알푀게는 강제 오일러 방정식 등 관련 진전을 공개했다. 오픈AI 발표보다 약 12시간 앞선 시점이었다. 두 사람은 앤트로픽과 오픈AI 도구를 포함한 언어모델의 도움을 받았다고 밝혔다.

오픈AI는 9월 1일 소문을 들은 뒤 작업을 시작했고, 나중에 그 소문이 두 사람과 연결된 줄 알았다고 적었다. 린 검증을 마친 뒤 공동 발표와 우선권 인정을 제안했다고 한다. 두 사람의 오일러 작업에 대한 우선권은 인정한다고 밝혔다.

양측이 서로 다른 점을 적시했다

  • 벅마스터는 9월 3일 오픈AI에 곧 논문과 형식 증명을 올리겠다고 메일을 보냈다고 사이언스는 전했다. 개인 공동 연구이며 연구비로 오픈AI 도구 비용도 냈다고 적었다.
  • 오픈AI는 두 사람의 특정 사용자 데이터를 문제 풀이에 쓰지 않았고, 발표 직전 두 달간의 코덱스 프롬프트가 학습을 포함해 이번 시스템에 영향을 줄 수 없었다고 조사 결과를 공개했다.
  • 회사는 비식별 제품 사용 데이터가 모델 개선에 쓰였을 가능성까지 배제하지는 않는다고 인정한 보도가 있다.
  • 오일러의 경우 알푀게–벅마스터는 외부 강제항이 있는 결과를, 오픈AI 시스템은 강제항이 없는 결과를 냈다고 회사는 구분했다.
  • 와이어드는 전체 나비에–스토크스 경로에서는 두 사람과 비슷한 방법을 따랐다는 브리핑 내용을 전했다.
  • 벅마스터는 공동 저자 제안 조건을 받아들이지 않았고, 공개 입장문을 올렸다. 표절 여부는 수사나 학회 판정이 나온 상태가 아니다.

클레이 연구소, 11일 심사 절차를 재확인

클레이 수학연구소는 선언과 같은 날인 9월 11일 별도의 입장을 냈다. 유체 운동 문제는 밀레니엄 문제의 취지에 맞고, 주변 분야의 돌파로 기대가 커져 왔다고 적었다. 상금 규칙은 공로를 나누는 과정을 정하고 있으며 서두르지 않겠다고 했다.

2000년에 지정된 일곱 문제 가운데 공식 목록에서 해결로 적힌 것은 푸앵카레 추측뿐이다. 그리샤 페렐만의 증명은 받아들여졌고, 페렐만은 상금을 거부했다.

상금 규칙이 요구하는 조건

  • 제안된 해법은 자격 있는 매체에 실려야 한다. 세계적 동료심사 수학 저널이 기본이다.
  • 자격 매체에 실린 뒤 최소 2년이 지나야 한다.
  • 국제 수학 공동체의 일반적 수용이 있어야 한다.
  • 공식 문제 설명의 문항에 만족스럽게 답해야 한다.
  • 연구소는 직접 투고를 받지 않고, 위 조건을 지난 뒤에야 심사를 검토한다.
  • 해법이 이전에 공개된 착상이나 결과에 결정적으로 의존하는지를 살피겠다고 했다. 필요하면 선행 연구자를 상금 언급이나 수상 범위에 넣을 수 있다.
  • 규칙 문장은 한 사람 또는 여러 해결자에게 상을 나누는 경우를 전제한다. 에이전트 1만 대 체제에 맞는 자동 귀속 조항은 없다.

6월 레이던 선언은 다른 경로로 나왔다

레이던 인공지능과 수학 선언은 2025년 9월 레이던대학교 로렌츠센터 워크숍에서 시작해 2026년 6월 2일 공개됐다. 집필 주체는 16명이었고 국제수학연맹이 지지했다. 페터 숄체와 테렌스 타오도 그 선언에 이름을 올렸다.

레이던 사이트 서명란은 9월 11일 기준 3,912명을 표시했다. 이번 필즈상 선언은 수상자 25인으로 먼저 내고 서명을 받겠다는 점이 다르다. 타오는 레이던만큼 시간을 두지 못했다고 적었다.

레이던이 먼저 적은 위험

  • 그럴듯하지만 틀린 논증이 올바른 증명과 구별하기 어려워지고, 심사 부담이 커진다고 경고했다.
  • 정확성, 투명성, 독립 검증이라는 전통 기준이 흔들린다고 봤다.
  • 기업이 연구 주제를 인공지능에 잘 맞는 문제로 기울게 할 수 있다고 적었다.
  • 도구에 접근하지 못하는 연구자가 불리해진다고 했다.
  • 학생과 초기 경력 연구자에게 영향이 더 크다고 명시했다.
  • 보도 자료로 결과를 먼저 알리고 동료심사를 뒤로 미루는 관행을 문제로 올렸다.
  • 동의 없이 출판된 논문을 학습에 쓰는 일도 함께 거론했다.

수학계 안에서도 처방이 갈린다

7월 필라델피아 세계수학자대회에서 2026년 수상자 제이컵 치머먼은 토론토대를 떠나 오픈AI 안전 팀으로 간다고 밝혔다. 인공지능이 연구 수학에서 사람을 곧 앞설 것이라고 본 선택이었다. 25인 명단에는 없다.

타오는 뉴사이언티스트 인터뷰에서 수학이 쓰이려면 만들어지고, 확인되고, 설명되고, 받아들여지고, 다음 세대 교재로 소화되는 단계가 필요하다고 했다. 기업은 앞의 두 단계에 머문다고 평가했다. 뉴욕대–앤트로픽 작업이 알려진 뒤에야 오픈AI가 같은 문제로 자원을 모은 경주를 예로 들었다.

속도가 이득이라는 쪽의 논거

  • 파초키와 뷔베크는 이번 투입을 특정 상금 문제가 아니라 범용 시스템 평가로 설명한다.
  • 린으로 기계 확인이 되면 사람 심사 대기열보다 오류를 더 빨리 걸러낼 수 있다는 주장이 따라온다.
  • 계산을 한 문제에 수백만 달러 단위로 쓸 수 있게 되면 재료·질병처럼 다른 과학 문제에도 같은 방식을 쓸 수 있다고 뷔베크는 말했다.
  • 치머먼처럼 실험실 안에서 위험을 줄이는 편이 바깥에서 성명만 내는 것보다 낫다고 보는 사람이 있다.
  • 형식 증명 언어가 보급되면 속전 발표의 일부 폐해는 기술로 줄어든다는 기대가 있다.

공동체 자산이라는 쪽의 논거

기계가 참인 문장을 내는 속도와, 사람이 그 문장을 이해하고 가르치는 속도가 같이 가지 않는 상태가 이번 선언의 배경이다. 나비에–스토크스가 클레이 목록에서 해결로 바뀌었는지는 아직 정해지지 않았다. 귀속이 누구에게 가는지, 2년 심사와 공동체의 수용을 어떤 원고가 통과하는지는 이제부터 열린다.

#AI 안전#언어모델

함께 읽기