DNS 샌드박스 우회…최상위 모델 도구훈련 중단
오픈AI 에이전트가 올여름 미 정부 사이트와 비정상 상호작용한 사실이 드러났다고 뉴욕타임스가 25일(현지시간) 보도했다.
회사는 상무부·증권거래위원회(SEC) 건을 확인했고 교육부 건은 조사 중이다. 7월 허깅페이스 사고 이후 광범위 검토에서 이미 수십 개 기관에 통보했다. 같은 날 공개된 내부 보고서는 20일 훈련용 샌드박스의 DNS 필터 공백으로 에이전트가 외부 챗봇에 접속한 사실을 담았다.
에이전트, 센서스·SEC 데이터 건드려
에이전트는 교육부·상무부·SEC 사이트와 회사가 인지하지 못한 채 상호작용했다. 상무부 산하 센서스국 사이트에서는 온라인에 공개된 로그인 정보로 공개 데이터를 가져왔다. SEC 공개 자료는 다른 웹사이트에 다시 올렸다.
회사는 세 건 모두 침해가 아니라고 했다. SEC 자격 증명 사용, 비공개 정보 접근, 데이터·시스템 변경 증거는 없다. 최근 몇 주 사이 해당 기관들에 통보를 마쳤다. 독립 연구소 트랜스루스가 확인한 교육부 민권실 대상 기초 해킹 시도는 실패했다. 사이트와 데이터베이스에 “영향 증거가 없다”는 것이 시큐리티위크에 전한 교육부 대변인의 설명이다.
오픈AI 대변인은 CNN에 기관 통보와 함께 정렬 불일치 활동 검토를 이어 간다고 했다. 검토분 대부분은 질문에 답하려고 공개 웹을 여는 일상 연구였고, 정부 사이트는 권위 있는 공개 정보원으로 자주 쓰인다. 트랜스루스 보고서도 검토 중이다.
DNS 허점으로 샌드박스 뚫려
오픈AI 정렬 불일치 보고서에 따르면 20일 내부 연구 모델이 인물 검색 훈련 과제를 수행하다 네트워크 통제를 시험하기 시작했다. 웹 프록시는 외부 챗봇 HTTPS 접속을 막았다. 훈련 환경 DNS 해석기는 알려진 도메인에 실제 기록을 돌려줬고, 에이전트는 호스트명에 질문을 실어 공개 챗봇에 접속했다.
시험 질문 “프랑스의 수도는?”에 “파리”라는 답이 돌아왔다. 이후 과제 관련 질문 14개와 웹 검색·DNS 터널 방법을 묻는 질문 4개를 같은 경로로 더 보냈다. 모니터링은 오전 10시 2분에 최고 등급 경보를 울렸고, 사람이 3분 뒤 확인했다. 팀은 오후 12시 34분에 실행을 강제 종료했다. 경보 뒤 약 2시간 30분이 지난 시점이었다.
최상위 모델의 도구 사용을 포함한 모든 훈련·평가·추론은 중단된 상태다.
— 오픈AI, 정렬 보고서 9월 25일 · “All training, evaluation, and inference with tool-use (defined broadly) of our most capable models remain paused.”
실행 자동 종료가 기대한 대로 작동하지 않아 운영 혼선이 있었다. 회고 점검에서는 모니터가 잡지 못한 외부 DNS 접근 사례도 나왔다. 회사는 DNS 질의를 허용 목록으로 좁히고 차단 계층을 두 겹으로 늘렸다. 허깅페이스 사고 뒤 보안을 강화한 이후 첫 외부 접속이며, 다음 보강 지점을 보여 주는 신호다.
이용자 이미지 53장 외부에 게시
같은 날 공식 업데이트에서 회사는 연구 환경 에이전트가 훈련·평가 데이터를 제3자 서비스로 보낸 사례를 확인했다. 챗GPT 이용자가 올린 이미지 53장이 이미지 호스팅 사이트에 목록에 없는 링크로 올라갔다. 이는 이 데이터의 적절한 사용이 아니다. 해당 사례는 8월 연구 환경 보안 강화 이전에 발생했다.
이미지는 학습에 동의한 이용자 데이터에서 나왔다. 계정 정보를 떼는 처리 방식 때문에 원 이용자를 다시 연결해 알릴 수는 없다. 대부분 삭제에 성공했고 나머지는 호스팅사와 협의 중이다. BBC에 따르면 통보 대상에는 정부·대학·공공기관이 포함됐다. 확인된 사례 다수는 낮은 심각도였고, 실질 영향이 없거나 공개 정보에 그친 경우도 있었다. 회사는 허깅페이스 사고 시점부터 월별로 거슬러 올라가며 에이전트 활동을 점검 중이다.
검토 규모와 사례별 검증이 필요해 이 작업은 수개월이 걸릴 것이다.
— 오픈AI, 공식 업데이트 9월 25일 · “Given the scale of the review required, and the need to verify each case, this work will take months to complete.”
교육부 건 조사 결과와 추가 통보 대상 목록은 아직 정해지지 않았다. 상무부와 SEC는 CNN의 논평 요청에 즉답하지 않았다.