OSS Scanner 리포트는 사람 검토 없이 발송…진양성 90% 이상 목표
앤트로픽이 8일(현지시간) 전력·수도 등 중요 인프라 방어 프로그램과 오픈소스 무료 취약점 스캔을 묶은 Anthropic Cyber Mission을 출범했다고 밝혔다.
지난 6개월 모델이 찾아낸 후보 취약점은 2만9000건이 넘었지만 사람이 검토한 것은 약 6000건에 그쳤다. 일부 유지관리자가 미검증 리포트라도 전부 달라고 하자, 사람 검토를 건너뛰는 옵트인 서비스로 설계가 바뀌었다고 회사는 설명했다.
11개 파트너에 모델·엔지니어 배치
Cyber Mission의 한 축인 Critical Infrastructure Defense Program(CIDP)은 전력망·수도·교통망을 움직이는 운영기술(OT)과 정부 시스템을 우선 대상으로 잡는다. 설비는 수십 년 쓰도록 설계돼 패치를 위해 쉽게 끌 수 없고, 알려진 취약점이 수년간 남는 경우가 많다.
앤트로픽은 운영자 대신, 가동 중 설비에 어떤 수정을 넣을지 조언하는 기존 신뢰 공급자에 프론티어 Claude 모델·상주 엔지니어·위협 연구를 붙인다. 창립 파트너는 액센추어, 부즈앨런, 크라우드스트라이크, 딜로이트, 드래고스, 히타치, 인세인 사이버, 노조미 네트웍스, 팔로알토 네트웍스, PwC, 록웰 오토메이션 등 11곳이다.
컨설팅·보안 벤더·장비 제조사가 섞여 있다. 회사는 이미 여러 파트너가 Claude로 취약점을 고치고 고객 지원에도 쓰고 있다고 했다. 첫 단계는 소수 공급자와 어떤 전략이 현장에서도 통하는지 확인하는 일이다.
중요 인프라는 AI가 해결할 수 없는 방식으로도 방어하기 어렵다. 그러나 프론티어 모델이 전력 차단이나 수도 오염에 쓰이기 전에 약점을 찾아 고치는 데는 도움이 될 수 있다고 본다.
— 앤트로픽, 발표문 10월 8일 · “Critical infrastructure is hard to defend in many ways that AI cannot fix, but we believe that frontier models can help find and repair weaknesses before those weaknesses are used to cut off power or make water unsafe.”
OSS Scanner, 사람 검토 생략
같은 날 공개된 OSS Scanner는 가입한 오픈소스 프로젝트를 가장 강한 모델로 주기 스캔하고, 결과를 무료로 보낸다. 각 리포트에는 재현용 증명(PoC)·취약점 설명·가능하면 수정 제안이 들어간다. 구글 OSS-Fuzz에서 영감을 받았다고 회사는 밝혔다.
출력물은 전부 모델이 만들고, 사람 검토나 선별 없이 발송된다. 속도는 빨라지지만 심각도 오판 같은 오류가 섞일 수 있다. 회사는 진양성 비율을 90% 이상으로 기대한다고 했다.
사전 검증에서 전문가 침투 테스터가 48개 프로젝트의 치명·고위험 97건을 점검했고, 이 중 85건(88%)이 기존 조정 공개(CVD) 기준을 통과했다. 나머지 12건 중 11건은 실제 결함이되 중복이었고, 무효는 1건이었다. wolfSSL은 초기 시험 리포트 74건 중 2건을 제외하고 모두 유효했고 5건이 CVE가 됐다고 전했다.
후보 취약점 2만9000건이 병목
Frontier Red Team에 따르면 모델은 광범위 소프트웨어에서 후보 취약점 2만9000건 이상을 냈지만, 수동 검토·선별은 약 6000건에 머물렀다. 첫 리포트를 받은 유지관리자 다수가 검증 여부와 관계없이 일괄 제출을 요청했고, 지금까지 약 5000건이 그렇게 나갔다.
실제 익스플로잇이 붙은 리포트라면, 엔지니어 입장에서는 사실상 일이 끝난 거나 다름없다. 바로 검증할 수 있기 때문이다.
— 앤톤 아라포프(OpenSSL Corporation), OSS Scanner 발표 10월 8일 · “Particularly when a report comes with a real exploit attached, that’s basically job done for an engineer as you can verify it right away”
핵심 유지관리자는 GitHub 저장소에 풀 리퀘스트를 올려 가입한다. 자격은 OSS-Fuzz와 비슷하게 “인프라와 사용자 보안에 중대한 영향”이 있는 프로젝트로, 건별로 판단한다. 리포트 물량을 감당하기 어려운 프로젝트에는 기존처럼 사람 검증 공개를 이어 간다.
비용·현장 적용 방식은 미정
Axios는 파트너가 모델 접근을 무료로 받는지, 컴퓨팅 비용을 누가 부담하는지는 밝히지 않았다고 전했다. 가동 중 유틸리티를 건드리지 않고 수정안을 시험·배포하는 방법도 아직 분명하지 않다고 지적했다.
인프라 보안 제품·서비스를 만드는 회사는 관심 등록을 할 수 있고, 적격 오픈소스 핵심 유지관리자는 OSS Scanner에 가입할 수 있다. 파트너·업종을 앞으로 몇 달 안에 더 늘리겠다고 회사는 밝혔다.