평가기가 채점…53시간 탐색에 게이트 최대 17분의 1

Claude Mythos 5가 자연어 지시만으로 기존 공개 최고안보다 효율적인 양자회로를 설계했다고 앤트로픽이 16일(현지시간) 밝혔다.

회사 연구 게시글에 따르면 개선은 기존 설계를 다듬은 결과가 아니라 문제 구조와 수학적 통찰에서 나왔다. 앤디 구(Andi Gu)가 STEM Fellows 프로그램으로 주도한 동반 논문은 15일 arXiv에 올렸다. 여덟 과제 중 일곱에서 토폴리 게이트와 큐비트 수를 함께 줄였다고 적었다.

모델, 평가기와 닫힌 루프로 설계

과제는 화학·최적화·양자 시뮬레이션·정수론·수치계산의 여덟 기본 연산이었다. 모델은 파이썬으로 회로를 제안하고, 평가 프로그램이 정답 여부와 점수(큐비트 수×게이트 수)를 돌려줬다. 라운드 사이에는 인간 입력이 없었다.

양자회로는 중첩된 여러 입력에 하나의 고정된 게이트 열로 대응해야 한다. 중간 결과를 그냥 지울 수도 없다. 가역성을 지키려면 중간값을 저장하거나 역연산으로 지워야 해서, 큐비트와 실행 시간이 맞바꾼다.

연구 책임은 구가 맡았고, 앤트로픽의 양자물리학자 알렉 케메니(Alek Kemeny)가 지도했다. 하버드대의 수잔 옐린(Susanne Yelin), 하버드대·QuEra Computing의 미하일 루킨(Mikhail Lukin)이 공저했다.


53시간 만에 모듈러 역원 재설계

첫 상세 사례는 타원곡선 점 덧셈이다. 점 덧셈은 타원곡선 이산로그 양자 알고리즘의 핵심 단계이고, 비용 대부분은 모듈러 역원에서 난다.

모델은 한 문단 지시로 출발해 53시간 동안 거의 혼자 탐색했다. 고전 알고리즘 divsteps를 양자에 옮기려면 매 라운드 분기 이력을 저장해야 해서 큐비트가 폭증한다. 모델은 이력 대신 수치 쌍에서 분기를 복원하는 규칙을 유도했고, 새 대수 항등식을 증명한 뒤 증명 보조도구 Lean으로 형식화했다.

대부분 스스로 작업해 Claude는 기존에 공개된 최고 회로를 개선하는 설계를 찾아냈고, 어떤 경우에는 자릿수 수준 이상이었다.

— 앤트로픽, 연구 게시글 10월 16일 · “Working largely on its own, Claude found designs that improve on the best published circuits, in some cases by an order of magnitude or more.”

설계군 가운데 하나는 이전 최소 설계보다 큐비트를 12% 더 쓰지만 게이트는 17분의 1이다. 회사는 이 설계들이 큐비트와 실행 시간 조합의 파레토 경계를 넓혔다고 적었다. 비교 대상은 Schrottenloher(2026), Luo 등(2026)의 공개 설계다.


DQI 디코더 게이트 12분의 1로

둘째 사례는 디코딩 양자 간섭계(DQI)의 리드-솔로몬 디코더다. 회사는 DQI를 초다항 양자 가속의 유력 후보로 소개했고, 디코딩이 가장 비싼 단계라고 했다.

이전 최고안은 확장 유클리드 알고리즘을 썼다. 입력마다 나눗셈·교환 횟수가 달라, 양자회로는 모든 경로를 한 고정 열에 욱여넣어야 했다. 모델은 매 라운드 같은 연산을 같은 횟수로 반복하는 벌레캠프-매시 방식으로 바꿨다.

최악을 가정하면 임시값 저장에 665 큐비트가 필요했다. 모델은 고속 시뮬레이터로 4억300만 회 표본 디코딩을 돌려, 거의 모든 실행이 값을 하나 이하만 저장한다는 사실을 확인했다. 그래서 회로는 19 큐비트만 남겼다.

약 1만 번 중 한 번은 그 예산을 넘겨 실패하지만, 과제 허용 오차 안이라고 회사는 적었다. 게이트 수는 구글 퀀텀 AI의 이전 설계 대비 12분의 1로 줄었다. Interesting Engineering도 같은 날 이 수치를 전했다.


하드웨어 실행 결과는 발표 밖

회로는 고전 컴퓨터가 출력을 검사하는 평가 루프에서 채점됐다. 실제 양자 하드웨어에서 돌린 결과는 이번 발표에 없다. 동반 논문은 동료심사를 거치지 않은 사전공개본이다.


#AI 안전