자문단, AI 기업 의사결정권 없어…내부 연구 속도는 조언 대상 아냐
오픈AI가 내부 모델이 미해결 수학 문제 100개 이상을 풀었다고 밝히며 수학 분야의 독립 자문단을 21일(현지시간) 출범시켰다.
자문단은 성과의 검토·공개·학술 기준을 조언하지만 내부 연구 속도에는 관여하지 않는다고 회사와 자문단이 각각 밝혔다. 필즈상 수상자들이 이달 초 공개서한에서 AI 기업의 문제 풀이 경쟁을 비판한 직후다.
회사, 미해결 문제 100개 이상 해결 주장
오픈AI 발표에 따르면 회사는 8월 28일 새 내부 모델 훈련을 시작했다. 이 모델이 나비에–스토크스 밀레니엄 문제(클레이 수학연구소가 정한 7대 난제 중 하나)를 해결했다. 이에 더해 수학 대부분 분야의 오래된 미해결 문제 100개 이상도 해결했다. 회사 안 수학자들도 진전 속도에 놀랐고, 어떻게 공동체를 알리고 분야가 대비하게 할지 내부 논의가 있었다.
발표가 말하는 해결은 회사 주장이다. 개별 성과가 동료 검토를 거쳐 학계에서 인정받았다는 뜻은 이 발표에 없다. 회사는 수학이 기초 과학이라 새 발견의 응용 범위가 넓고, 수학 관련 AI 능력을 어떻게 책임 있게 배치할지 고민 중이라고 했다.
자문단 권한, 연구 속도에는 미치지 않아
자문단 이름은 수학·인공지능 자문그룹이다. 프린스턴 고등연구소(IAS)가 호스트하며, 성과의 의미 평가, 공개 조율, 수학 연구의 학술·전문 기준, 연구·학습 도구 설계를 조언한다.
이 그룹은 수학에서의 내부 진전을 어떤 속도로 가져갈지에 대해 우리에게 조언할 책임을 지지 않는다.
— 오픈AI, 공식 발표 9월 21일 · “the group will not be responsible for advising us on how to pace our internal progress on mathematics”
자문단 사이트에 따르면 구성원은 오픈AI로부터 보수를 받지 않고, 요청받지 않은 조언도 낼 수 있으며, 권고를 공개하고 멤버십도 스스로 바꿀 수 있다. 오픈AI가 일부 수학자에게 외부 자문위원회를 제안한 뒤, 당사자들이 독립 그룹을 만들고 다른 이들을 초대한 형태다.
우리는 조언을 하겠지만, 어떤 AI 기업에서도 의사결정권은 없으며, 각 회사가 내린 결정에 대한 책임은 그 회사에 있다.
— 자문단, AGMAI 9월 21일 · “Although we will give advice, we do not have decision making power at any AI company, and the responsibility for the decisions made by any company will rest with that company”
초기 멤버는 아홉 명이다. 프랑수아 샤를(ENS-PSL), 카밀로 데 렐리스(IAS·GSSI), 티머시 가워스(콜레주 드 프랑스·케임브리지)가 포함된다. 마틴 하이레르(EPFL·임페리얼 칼리지 런던), 니킬 스리바스타바(버클리·사이먼스 연구소), 울리케 틸만(옥스퍼드·아이작 뉴턴 연구소)도 있다. 라비 바킬(스탠퍼드), 에드워드 위튼(IAS), 멜라니 매칫 우드(하버드)도 이름을 올렸다.
필즈상 수상자들, AI 벤치마크 경쟁 비판
발표는 11일 공개된 「수학에서 AI의 심각한 어긋남」을 직접 언급했다. AI 기업이 미해결 문제 풀이를 모델 벤치마크로 삼는 관행이 수학 과학과 공동체에 해롭다는 내용이다. “AI 기업들의 목표와 수학 공동체의 목표는 심각하게 어긋나 있다”는 문장이 핵심이다.
서한은 해법이 서둘러 발표되면 제대로 된 논문 작성, 새 방법의 분리, 선행 연구 인용이 빠지고 귀속·표절 문제가 커진다고 지적했다. 참·거짓 진술의 대량 생산이 새로운 아이디어가 자랄 토양을 망가뜨릴 수 있다고도 했다. 자문단 멤버인 마틴 하이레르는 이 서한에도 이름을 올렸다.
테크크런치는 서명자가 필즈상 수상자 25명이었고, 이번 발표가 나비에–스토크스 해법의 갑작스러운 공개 직후에 나왔다고 전했다.
자문단, 대규모 성과 공개 조율에 착수
자문단의 당면 과제는 오픈AI가 내부 모델로 냈다고 보고한 상당수 수학 성과를 어떻게 공개할지 조율하는 일이다. 수학 공동체로부터 의견도 받고 있다. 응답은 권고에 반영되며, 동의 없이 공개하지 않는다.
오픈AI는 자문단과의 협력을 “첫걸음”이라고 불렀고, AI가 수학적 이해를 어떻게 도울지, 그 이익이 더 넓은 공동체에 어떻게 닿을지에 어려운 질문이 남아 있다고 적었다. 100개 이상 문제 해결 주장과 나비에–스토크스 관련 주장의 학술적 인정 여부는 동료 검토와 자문단 권고 이전이어서 아직 확정되지 않았다.