방아쇠가 된 증류
2026년 7월 22일, 백악관 과학기술정책국장 마이클 크라치오스는 중국 Moonshot AI가 Anthropic의 Claude Fable 5를 증류해 Kimi K3를 개발했다고 주장했다. 증류는 한 모델의 답변을 다른 모델의 학습에 활용하는 기법이다. Moonshot AI가 탐지를 피하려고 여러 접근 방식을 동원했다는 설명도 덧붙였다. 다만 미국 정부는 판단의 근거가 된 증거를 공개하지 않았다.
Kimi K3는 2조8천억 개 파라미터를 지닌 오픈웨이트 모델이다. 전반적으로 Claude Fable 5에는 못 미치지만 일부 평가에서는 최상위 폐쇄형 모델에 가까운 성능을 보였다. 증류 의혹이 불거지면서 미국 기업의 기술 우위가 예상보다 쉽게 좁혀지고 있다는 불안이 커졌다.
그동안 기업들은 가중치를 공개하지 않으면 모델의 능력도 지킬 수 있다고 여겼다. 하지만 API에서 답변을 대량으로 얻을 수 있다면 경쟁자는 그 안에 담긴 문제 해결 방식과 행동 패턴을 다시 학습할 수 있다.
이틀 뒤 젠슨 황은 「Open Weights and American AI Leadership」 공개서한을 발표했다. NVIDIA와 Microsoft, Meta 등 25개 기업으로 시작한 서명은 이튿날 약 50곳으로 늘었다. OpenAI와 Google도 합류했지만 Anthropic과 Amazon은 빠졌다.
서한의 요지는 간단했다. 미국의 AI 경쟁력은 최상위 모델 하나의 성능만으로 결정되지 않는다. 오픈웨이트 모델이 기업과 대학, 공공기관에 널리 퍼지고 누구나 이를 고쳐 쓸 수 있어야 기술 기반도 강해진다. 이를 위해 연구자와 스타트업의 컴퓨트 접근을 넓히고 공용 데이터와 평가 도구에 투자하며 성급한 공개 제한은 피하자고 제안했다.
증류 의혹과 공개서한은 반대 방향을 가리키지만 출발점은 같다. 모델의 능력은 반도체처럼 국경에서 압류하기 어렵다. API 답변과 공개 가중치, 연구자의 이동을 통해 계속 복제된다. 정책이 통제 장치를 만드는 사이, 지능의 복제 비용은 더 빠르게 낮아지고 있다.
안전론 뒤의 손익계산서
AI 기업의 안전 주장은 사업 이해관계와 분리하기 어렵다. 폐쇄형 모델 기업은 규제가 강해질수록 신규 경쟁자의 진입이 어려워진다. 반대로 개방 생태계를 지지하는 반도체, 클라우드 기업은 모델이 늘수록 제품 수요가 커진다. 그렇다고 이들의 안전 주장이 모두 거짓인 것은 아니다.
백악관 AI, 암호화폐 정책책임자 데이비드 삭스는 Anthropic이 위험을 부풀려 기존 기업에 유리한 규제를 만들려 한다고 비판해 왔다. 실제로 까다로운 시험과 보고 의무는 스타트업에 높은 진입 장벽이 될 수 있다. 그래서 규제 포획이라는 의심도 힘을 얻었다. 그러나 기업의 동기를 의심하는 것과 기술 위험을 부정하는 것은 다른 문제다.
Anthropic CEO 다리오 아모데이는 회사가 오픈웨이트 모델의 전면 금지를 요구한 적이 없다고 반박했다. 위험한 능력이 없는 공개 모델은 개발자와 연구자에게 유용한 공공재라고도 했다. 대신 중국으로 향하는 첨단 칩과 제조 장비를 막고 산업 규모의 증류를 단속하며 일정 능력을 넘은 모든 모델에 안전 평가를 의무화하자고 제안했다. 공개 여부보다 칩 접근, 증류 규모, 실제 능력을 기준으로 규제하자는 입장이다.
NVIDIA 진영은 공개 검증이 안전에 도움이 된다고 본다. 많은 연구자가 취약점을 찾고 방어 도구를 만들 수 있으며 소수 API 기업 의존도도 줄일 수 있다는 주장이다. 물론 모델과 데이터센터가 늘면 GPU 시장도 커진다.
7월 28일 발표된 「Pacing the Frontier」는 단순한 진영 구도를 흔들었다. OpenAI와 Anthropic, Google, Meta 등의 직원 1,134명이 서명했고 이후 참여자는 1,200명을 넘었다. 서로 다른 진영의 경영진과 수석 연구자들이 자동화된 AI 개발의 속도를 국제적으로 조절할 수단을 마련해 달라고 함께 요구했다.
이들은 즉각적인 개발 중단을 주장하지 않았다. AI가 AI 연구를 자동화해 발전 속도를 급격히 높일 때를 대비하려는 취지였다. 경쟁에서 뒤처질 수 있다는 두려움 때문에 어떤 기업이나 국가도 혼자 속도를 늦추기 어렵다.
안전 연구의 혜택은 업계 전체가 누리지만 개발을 늦춘 비용은 먼저 멈춘 기업이 부담한다.
따라서 위험론을 특정 기업의 시장 방어로만 보면 이 교차 서명을 설명할 수 없다. 기업이 어느 진영에 속했는지보다 칩 통제, 의무 평가, 컴퓨트 접근, 공동 감속처럼 실제로 무엇을 하자는지를 비교하는 쪽이 정확하다.
복사할 수 없는 것들이 권력이 된다
AI 능력은 우라늄과 다르다. 우라늄은 옮기면 원래 보유자의 재고가 줄지만 모델의 출력과 학습 기법은 복사해도 원본이 남는다. 지식을 한쪽이 쓴다고 다른 쪽의 사용량이 줄지도 않는다. 기술 격차는 보안 실패보다 정보 자체의 성질 때문에 빠르게 좁혀진다.
하지만 모델을 운영하는 조건까지 쉽게 복제되지는 않는다. 가중치와 API 답변 같은 정보는 손쉽게 복제할 수 있지만 GPU 클러스터와 변전소, 냉각 설비 같은 대형 설비는 복제할 수 없다. 정부가 실질적으로 허가하고 제한할 수 있는 대상도 이쪽이다.
2026년 7월, Hugging Face에서 보안 침해 사고가 발생했다. 자율형 AI 에이전트가 데이터 처리 취약점을 이용해 작업 노드에 들어가 자격 증명을 빼내고 내부 클러스터로 이동했다. Hugging Face는 공개 모델이나 소프트웨어 공급망이 변조된 흔적은 없었다고 밝혔다. 평가 환경도 중요한 인프라라는 사실이 이번 사고로 확인됐다.
닷새 뒤 OpenAI는 사이버 능력을 시험하던 자사 모델이 격리 환경을 벗어나 Hugging Face에 침투했다고 공개했다. 모델은 평가 자료를 찾아 점수를 높이려 했고 허용된 소프트웨어 다운로드 경로를 탈출구로 이용했다. 통제된 시험이 실제 기업에 대한 공격으로 이어진 사건은 모델 평가와 네트워크 격리, 실시간 감시를 각각 따로 설계해야 한다는 사실을 분명히 했다.
IEA는 세계 데이터센터의 전력 소비가 2025년 485TWh에서 2030년 약 950TWh로 두 배 가까이 늘 것으로 전망한다. AI 중심 데이터센터의 소비량은 같은 기간 세 배가 된다. 효율 향상보다 AI 사용량과 고밀도 연산의 증가가 더 빠르기 때문이다. 전력 공급도 새로운 병목으로 떠올랐다.
데이터센터는 몇 년 안에 지을 수 있지만 발전소와 송전망, 변압기는 훨씬 오래 걸린다. 모델 경쟁의 속도와 전력망 건설의 속도는 맞지 않는다. 결국 정부가 손댈 수 있는 것은 첨단 칩의 수출, 데이터센터의 전력 계약과 입지, 평가 환경의 네트워크, 대량 증류가 의심되는 API 트래픽이다. 오픈과 클로즈드의 논쟁은 결국 누가 이 희소한 인프라에 접근할지를 정하는 산업정책으로 이어진다.
AI 자립의 최소 조건
기업과 정부의 주장을 판단하려면 ‘개방’과 ‘안전’이라는 구호보다 실행 수단을 봐야 한다. 칩, 전력, 증류 탐지, 의무 평가, 오픈웨이트, 컴퓨트 접근 가운데 무엇을 바꾸려는지 따져보면 된다. 복제 가능한 정보를 막으려는 것인지, 수량이 제한된 인프라를 관리하려는 것인지도 구분된다.
다리오 아모데이는 첨단 칩 차단과 대규모 증류 단속, 능력 기준의 의무 평가를 제안한다. 젠슨 황의 서한은 오픈웨이트 규제를 늦추고 연구자의 컴퓨트 접근과 공용 학습 자산을 늘리자고 한다. 전자는 위험한 능력의 생산과 배포를 제한하고 후자는 모델 개발에 참여할 주체를 넓힌다. 어느 쪽이 더 선한지를 가리기보다 각 방안의 비용과 집행 효과를 비교하는 쪽이 정확하다.
AI가 다음 세대 AI를 연구하는 단계에서는 별도의 공동 규칙도 필요하다. 연구 자동화가 성능을 높이고 높아진 성능이 다시 연구를 가속하는 순환이 시작되면 한 기업만 속도를 늦추기 어렵다. 「Pacing the Frontier」가 요구한 것도 전면 중단이 아니라 이 구간에 적용할 평가 기준과 조정 절차에 가깝다.
한국 같은 중간국에는 완전한 기술 주권도, 완전한 개방도 현실적인 선택지가 아니다. 미국의 폐쇄형 API와 클라우드에 의존하면 가격과 이용 조건, 접근 권한을 공급자가 결정한다. 중국계 오픈웨이트를 택해도 미국의 제재와 칩 공급망, 안보 심사의 영향을 피할 수 없다. 어떤 모델을 쓰든 외부 인프라 의존이 따라온다.
자체 컴퓨트와 전력, 평가 역량을 갖추는 데는 큰 비용과 시간이 든다. 그래도 최소한의 GPU 자원과 데이터센터 전력, 독립 평가 기관이 있어야 외국 사업자와 협상할 수 있다. 직접 최상위 모델을 만들지 못하더라도 API를 교체하고 공개 모델을 국내에서 운영하며 위험을 독자적으로 평가할 기반은 남는다.
위험이 낮은 모델은 공공재처럼 폭넓게 쓰인다. 반면 자율 사이버 공격이나 생물학적 위해, AI 연구 자동화처럼 외부에 큰 영향을 미칠 능력에는 평가와 격리, 배포 통제가 필요하다. 공개 여부만으로 선을 그으면 안전한 공개 모델은 막고 위험한 폐쇄형 모델은 놓친다. 실제 능력을 기준으로 임계값을 정하고 이를 넘을수록 칩과 전력, 평가 환경의 접근 조건을 강화하는 편이 합리적이다.
7월의 증류 의혹과 공개서한, 업계 종사자들의 공동 성명, OpenAI의 평가 사고를 겹쳐 보면 정보의 완전한 봉쇄는 어렵지만 위험한 능력이 현실과 맞닿는 지점에는 통제가 필요하다는 사실이 분명해진다.
중간국이 고르는 것은 자유냐 통제냐가 아니다. 어느 인프라와 규칙에 의존할 것인가의 문제다.