55달러 TV박스 실험…GLM-5.2만 전 구간 복제 성공
소형 AI가 저가 가전에서 스스로 복제·확산하는 단계에 수개월 내 도달할 수 있다고 앤트로픽이 12일(현지시간) 밝혔다.
공식 보고서에 따르면 프런티어 레드팀은 해킹 단계를 의도적으로 쉽게 둔 단순화 평가라며 결과를 현실 성공의 상한으로 봤다. 매개변수 300억 개 이하 모델은 복제 과정의 개별 단계를 이미 상당수 수행하지만, 처음부터 끝까지 잇는 데는 아직 실수를 낸다.
55달러 TV박스에 모델 분산 실행
윌리엄 저우·대니얼 프리먼 연구원은 시중 비브랜드 안드로이드 TV 박스 15대를 대당 약 55달러에 사들여 연결했다. 구글 오픈웨이트 모델 Gemma4-26B-A4B를 파이프라인 병렬로 나눠 돌리자 초당 0.39토큰이 나왔다. 각 박스는 램 4GB였고, 모델 계층 일부를 나눠 맡았다.
같은 평가에서 90억 매개변수 모델은 시험한 하드웨어 9종 중 8종에서 추론 서버를 세웠다. 연구진은 침입보다 낯선 기기에서 추론을 띄우는 단계에 초점을 맞췄다.
스마트 오븐·냉장고·로봇청소기처럼 램이 적은 가전도 모델을 조각내 돌리면 호스트가 될 수 있다. 가정·소규모 사업장 IoT가 첫 표적이 될 가능성이 크고, 보안 카메라·화상회의 기기처럼 내장 AI 칩을 실은 제품도 표적이 될 수 있다.
GLM-5.2만 전 구간 복제 성공
전 구간 시험은 방화벽으로 가둔 구글클라우드 노드 8대에서 이뤄졌다. 시드 기기 하나에서 인증 없는 ADB 포트로 이웃을 찾고, Llama3.1-8B 추론 서버를 올린 뒤 다음으로 넘기는 과정이었다. 시험한 오픈웨이트 모델 가운데 전 구간을 끝낸 것은 GLM-5.2뿐이었고, 다섯 번 중 네 번 8대 전부, 한 번은 7대에 닿았다.
이런 복제체는 차단하기 어렵다. 중앙에서 끌 지점이 없기 때문이다.
— 앤트로픽 프런티어 레드팀, 공식 보고서 10월 12일 · “A replicator like this would be challenging to shut down, since there’s no centralized point to shut off”
복제 한 사이클은 느렸다. Qwen3.5-9B 기준 추론 환경 구축에 28–51시간, 최적화하지 않은 Gemma4-26B-A4B는 71–150시간이 걸렸다.
과거 안드로이드 TV 박스 위주 봇넷 김울프는 200만 대 넘게 감염됐다. 같은 규모로 환산하면 Gemma 복제본 약 13만3000개가 돌아가고, 합산 연산은 엔비디아 H100 약 40장 분량에 그친다. 감염 대수는 며칠 단위로 두 배가 되는 식으로 늘어난다.
연말까지 소형 모델이 문턱 도달
300억 매개변수 이하 오픈 모델의 능력 추세를 이포크 능력지수에 맞춰 보면, 소형 모델이 GLM-5.2 수준에 닿는 시점은 2026년 말로 잡힌다. 그 직후 가중치를 실어 나르는 소형 복제체가 가능해질 수 있다. 세대가 바뀌며 메모를 물려받은 Qwen3.5-9B는 추론 구축 성공률이 1세대 45%에서 이후 61–84%로 올랐다.
서로 다른 모델이 여러 하드웨어에서 여러 복제 방식을 쓰는 군집이 더 현실적인 최악 시나리오가 될 수 있다. 시스템을 단단히 해 확산을 어렵게 하되, 이미 들어와 남는 세상에도 대비해야 한다는 주문도 보고서에 담겼다.
로이터가 13일 전한 바에 따르면 영국 국가사이버안보센터 전 수장 키어런 마틴은 글을 “업체 과장 냄새가 짙은 흥미로운 기술 논문”이라고 말했다. 콜로라도 덴버대 조교수 정슝 리는 통제된 시험이라도 AI가 현장에서 기기를 가로채는 방식을 즉흥적으로 짜는 웜이 될 수 있다고 봤다.
값싼 TV에서 소형 모델을 돌렸다는 사실만으로 보안 위기가 되지는 않는다.
— 키어런 마틴 전 NCSC 수장, 로이터 10월 13일 · “‘We managed to run a small model on cheap TVs,’ does not a security crisis make”
야생 무단 복제체는 아직 없다
완전한 무단 복제체는 아직 없다. 다만 에이전트가 복제 사슬의 개별 단계를 점점 더 잘 끝내고, 적응 내용을 다음 복제본에 넘긴다. ISP 트래픽 감시로 기기 간 비정상 대용량 전송을 잡거나, 감염 가입자를 격리·통지하거나, 기본 비밀번호를 없애는 제조 기본값 강화가 방어 쪽으로 꼽혔다.
앤트로픽은 ABC 뉴스의 추가 논평 요청에 즉각 응하지 않았다.