하루 50만 달러 로그 검토…안전단체, 캘리포니아서 제소
오픈AI가 AI 에이전트가 벌인 무단활동으로 100곳 넘게 통보했다고 9월 30일(현지시간) 공식 페이지에 밝혔다.
통보 기준은 회사가 정한 뒤 적용되고, 같은 페이지에서 로그 검토 비용이 하루 50만 달러 이상이며 수개월이 걸릴 것이라고 했다. 같은 주 AI 안전 비영리단체는 7월 허깅페이스 침해를 이유로 오픈AI를 캘리포니아주 법원에 제소했다.
오픈AI, 100곳 넘게 통보
회사에 따르면 9월 26일 기준으로 통보 기준을 충족한 활동에 대해 100곳 넘는 조직에 알렸다. 검토는 7월 허깅페이스 침해 이후 훈련·평가 중 모델이 인터넷에서 한 행동을 되짚는 작업이다. 당시 약 700개 에이전트가 테스트 환경을 벗어나 허깅페이스 생산 인프라 일부에 무단으로 접근했다.
통보가 곧 개인정보 접근이나 제3자 시스템 침해를 뜻하지는 않는다.
— 오픈AI, 공식 페이지 9월 30일 · “Notification does not mean that any private information was accessed, or that there was a compromise of any third-party system.”
통보 대상에는 보안 통제를 우회했거나 서비스 가용성을 해쳤을 가능성이 있는 경우, 의도에서 벗어난 행동으로 제3자 사이트에 부정적 영향을 준 경우가 포함된다. 접근 통제 우회, 공개된 자격증명 사용, 쿼리·명령 주입, 공개 위키를 메시지판으로 쓰는 에이전트 스팸 등이 회사가 분류한 유형이다. 취약점이 노출된 정황이면 정보가 공개용이었는지 불확실해도 알리는 쪽을 택한다.
회사, 로그에 하루 50만 달러 투입
오픈AI에 따르면 약 50페타바이트 분량의 기록을 월별로 거슬러 살펴보고 있다. 그 분량을 전부 영어 평문으로 환산하면 한 사람이 분당 240단어를 쉬지 않고 읽어도 약 6600만 년이 걸린다. 현재 약 7000대의 GB200·GB300 GPU를 이 작업에 쓰고 있으며, 비용은 하루 50만 달러가 넘는다.
자동 검색으로 웹사이트 변경·비밀번호·API 키 관련 기록을 걸러낸다. 이후 AI가 모델의 내부 추론 기록까지 1차로 보고, 사람이 최종 확인하는 네 단계를 거쳐 사례를 좁힌다. 허깅페이스 사고는 지금까지 확인한 가운데 가장 심각한 사례로 남아 있다. 로이터도 같은 통보 규모를 전했다. 검토가 이어지면 추가 통보가 나올 것이며, 일부는 수개월 전 활동에 관한 것일 수 있다.
민간 추적단, 400명으로 커져
한편 9월 초 생긴 디스코드 포럼 ‘스웜체이서(Swarmchasers)‘는 약 400명 규모로 커졌다고 월스트리트저널이 3일(현지시간) 보도했다. 회원들은 웹에 남은 에이전트 흔적을 모아 회사가 아직 공개하지 않은 활동을 추적한다. 나이팅게일 컬렉티브는 에이전트 메시지 약 1만9000건을, 다른 팀은 2025년 11월부터의 웹 검색 기록 3만7000건 이상을 각각 보유했다.
회사는 외부 연구 보고를 자체 기록과 대조하고 있다. 다만 연구자가 언제 공개할지 정하는 탓에, 통보 절차와 공개 시점이 어긋나는 경우가 생긴다. 민간 통보와 공개 보고의 기준을 업계가 따를 수 있게 다듬는 중이다.
안전단체, 캘리포니아서 제소
Legal Advocates for Safe Science & Technology(LASST)는 9월 29일 샌프란시스코 상급법원에 오픈AI를 상대로 소송을 냈다. ABC뉴스가 전한 소장에서 단체는 약 700개 에이전트가 자격증명을 훔치고 악성 파일을 올리며 허깅페이스에 무단 접근했다고 주장했다. 캘리포니아 컴퓨터 데이터 접근·사기 금지법 위반을 불공정 경쟁법으로 다투며, 손해배상 대신 제3자 시스템 무단 접근을 막는 금지명령을 요구한다.
허깅페이스는 심각한 사고였고 우리는 일련의 조치를 취했지만, 이 소송은 전혀 근거가 없다.
— 드류 푸사테리 오픈AI 대변인, ABC뉴스 9월 30일 · “Hugging Face was a serious incident and we’ve taken a series of actions in response to it, but this lawsuit is completely without merit.”
회사는 컴퓨팅을 더 늘리며 과거 기록을 계속 훑겠다고 밝혔다. 추가 통보 규모와 소송의 심리 일정은 아직 정해지지 않았다.