4주·650만 줄 Lean…앱·그룹채팅은 제외
구글 딥마인드가 10일(현지시간) AI로 Signal 암호 코드의 핵심 보안 속성을 기계어까지 형식 검증했다고 밝혔다.
기술 논문에 따르면 수정하지 않은 상용 암호 프로토콜 구현을 프로토콜급 보안 보장과 기계어로 이은 첫 증명이다. 스펙과 증명 아티팩트는 공개됐지만, 신뢰해야 할 약 2만6000줄에 대한 독립 검토는 아직 남아 있다.
에이전트, 4주에 650만 줄 증명
딥마인드 블로그에 따르면 새 프레임워크 AlphaProof Code는 인간이 무엇을 증명할지 정한다. Gemini Carbon 기반 에이전트 팀이 Lean으로 증명을 쓴다. Lean 커널이 받아들인 증명만 통과한다. 에이전트는 600만 줄이 넘는 Lean 증명을 만들었고, 사람이 다시 볼 구간으로 코드베이스의 약 1%를 표시했다. 검증 과정은 4주가 걸렸다.
같은 팀의 논문은 증명 분량을 약 650만 줄로 집계했다. 검증 대상은 Signal 참조 구현 libsignal v0.105.4의 일대일 세션이다. 팀은 수정하지 않은 크레이트를 작은 명령줄 하네스에 묶고, 일반 rustc로 AArch64 리눅스 실행 파일을 만들었다. 그 바이너리의 실행을 명령어 단위로 추적했다. 검증된 기계어는 약 14만 명령어다. 다루는 속성은 전방향 비밀성, 인증, 사후 타협 보안, 핸드셰이크 비밀성이다.
작업에는 5명이 투입됐다. 증명 캠페인마다 보통 40–80개 에이전트가 한 대의 머신에서 24–72시간 돌았다. 저자 중 누구도 증명 코드를 직접 쓰지 않았다. seL4 마이크로커널 형식 검증에 20인년이 걸렸다는 대비도 논문이 직접 든다.
검증 범위는 일대일 세션뿐
대상은 양자 내성 PQXDH 핸드셰이크와 트리플 래칫이다. 더블 래칫에 Sparse Post-Quantum Ratchet를 더한 구성이다. 상징적 모델과 계산적 모델 두 갈래로 증명했다. 독자가 신뢰해야 할 부분은 스펙 약 1만8000줄과 AArch64 의미론 약 8000줄이다.
암호 원시 연산 자체, 키 생성(keygen), 그룹 채팅, Signal 모바일 앱 전체는 범위 밖이다. SHA·AES·곡선 연산 등 37개 저수준 루틴은 계약을 걸어 두고 검증하지 않았다. 계산적 증명의 공격자 이득 상한은 메시지가 매우 많아지면 공허해질 수 있다.
WIRED에 따르면 이번 분석은 앱 전체를 형식 검증하지 않았고, 새 취약점도 찾지 못했다.
Signal 최고기술책임자(CTO) 에런 크렛은 발표문에 이렇게 적었다.
실제 코드를 유효한 Lean 정리로 옮기는 데 AI 에이전트를 쓰는 것은 중대한 돌파다.
— 에런 크렛 Signal CTO, DeepMind 11월 10일 · “Using AI agents to translate live code into valid Lean theorems is a major breakthrough.”
옛 버그 주입으로 명세 시험
논문에 따르면 팀은 이미 고쳐진 libsignal 버그 두 건을 격리 복사본에 다시 넣었다. 약한 세션 상태 버그와 작은 부분군 검사 누락이다. 두 경우 모두 Lean이 상징적 보안 정리가 깨진다는 기계 검증 증거를 냈다. 현재 버전에 새 결함은 보고되지 않았다.
명세 작성 과정에서 기존 공개 보안 분석문의 오류도 드러났다. 계산적 쪽만 200건이 넘는 문헌·코드 불일치가 목록으로 남았다. 대부분은 가정·게임 조건 누락 같은 서술 문제였고, Signal 공격으로 이어진 것은 아니었다. Lean 개발물과 리뷰어용 사이트는 깃허브에 공개됐다.
딥마인드 연구과학자 스와라트 초두리는 인터뷰에서 이렇게 말했다.
이번 결과에 매우 흥분하지만, 세상의 모든 소프트웨어로 이를 확장하기까지는 먼 거리가 남아 있고, 우리는 그걸 하려 한다.
— 스와라트 초두리, WIRED 11월 11일 · “We are very excited by this result, but there is a long distance to go before we are able to scale this to all the software of the world, and we want to do that.”
구글은 이번 분석 비용과 상용 형식 검증 제품 출시 계획에 대해 논평을 거부했다. 신뢰 기반에 대한 외부 재검증 일정은 정해지지 않았다.
