AI 도구 접근성 확대가 아동 대상 비동의 성적 이미지 제작을 가속화하며, 신고 수치가 구체적 경고로 등장
신고 급증의 실제 규모
영국 Report Remove 서비스(Internet Watch Foundation과 NSPCC가 공동 운영)에 접수된 아동 본인 관련 조작·딥페이크 이미지 신고가 2026년 상반기 420건을 기록했다. 이는 2025년 전체 397건을 이미 넘어선 수치다.
이 서비스는 18세 미만 아동·청소년이 본인의 친밀 이미지가 온라인에 유통되거나 유통될 우려가 있을 때 익명으로 신고할 수 있도록 설계됐다. 신고된 이미지는 해시(디지털 지문)로 변환되어 주요 플랫폼에 공유되며, 삭제·차단 조치가 이뤄진다. 최근 조작·딥페이크 신고가 급증하면서 제출 양식에 ‘딥페이크 여부’를 표시하는 체크박스가 추가됐다.
IWF 분석에 따르면 2025년과 2026년 상반기 접수된 조작 이미지 중 상당수가 아동 성착취물(CSAM) 기준을 충족할 정도로 심각했다. AI와 누디피케이션(nudification) 도구를 이용해 평범한 사진이 성적 이미지로 변환되는 사례가 두드러진다.
AI가 바꾼 피해 구조
기존 아동 성착취는 주로 가해자와 직접 접촉·그루밍을 통해 이미지가 생성·유포되는 양상이었다. 그러나 생성형 AI와 오픈소스 모델의 확산으로 구조가 달라졌다.
- 공개된 소셜미디어·학교 웹사이트 사진만으로도 실재하는 아동의 얼굴을 합성한 성적 이미지를 제작할 수 있다.
- 가해자가 아동과 접촉할 필요 없이, 원격으로 ‘피해’를 양산하는 것이 가능해졌다.
- 일부 사례에서는 학교 웹사이트에서 긁어온 학생 사진을 AI로 변환한 뒤 학교를 상대로 협박하는 시도까지 확인됐다.
IWF CTO 댄 섹스턴은 “인터넷에서 아동의 평범한 사진을 가져와 성착취물을 만들 수 있다면, 그 아동이 할 수 있는 일은 사진을 찍히지 않거나 올리지 않는 것뿐”이라고 지적했다. 그는 이 문제를 “전 세계 모든 사람이 위험에 처한 상황”으로 규정했다.
NSPCC의 온라인 안전 전문가 라니 고벤더는 기술 기업들이 AI 제품을 출시하면서 성적 이미지 생성을 원천적으로 막는 보호 장치를 충분히 넣지 않았다고 비판했다.
규제와 대응의 현재 위치
영국은 이미 AI로 생성된 아동 성착취물을 불법으로 규정하고 있다. 2026년 6월 시행된 Crime and Policing Act는 이를 한층 강화했다.
- CSAM 생성을 위해 최적화·적응된 AI 모델의 제작·소지·공급을 형사 처벌 대상으로 명시했다.
- 누디피케이션 도구(이른바 ‘옷을 벗기는’ AI 앱·서비스) 공급 자체를 범죄화했다.
- Online Safety Act 체계 안에서 플랫폼에 우선 대응 의무를 부여하고, 해시 매칭 등 자동 탐지 기술을 권고하는 방향으로 이동 중이다.
NCA와 IWF는 2026년 7월 학부모 대상 가이드라인을 발표하며, 아동 사진의 공개 범위를 최소화할 것을 권고했다. 소셜미디어 계정을 비공개로 설정하거나 ‘친한 친구’ 그룹으로만 공유하고, 학교 웹사이트에서 식별 가능한 학생 사진을 삭제하라는 내용이 포함됐다.
심층 분석
피해의 비가시성과 복제성
합성 이미지라도 피해 아동에게는 실제 피해와 동일한 심리적 타격이 온다. 이미지가 한 번 생성되면 해시 기반 차단이 이뤄지더라도 완전히 사라지지 않을 수 있고, 가해자가 “AI로 만든 것”이라고 주장하며 책임을 회피하려는 시도도 증가하고 있다. 실제 학대 증거와 합성 이미지를 구분하는 작업 자체가 수사 기관의 부담을 가중시킨다.
기술 접근성의 비대칭
고성능 이미지·영상 생성 모델이 공개되고 누디피케이션 앱이 쉽게 유통되면서, 전문 기술 없이도 피해를 양산할 수 있게 됐다. 반면 피해를 막는 쪽(플랫폼 필터링, 모델 안전장치, 탐지 기술)은 여전히 후행적이다. ‘안전성 우선 설계(safety-by-design)‘가 제품 출시 단계에서부터 강제되지 않으면 신고 수치 증가는 계속될 가능성이 높다.
기존 CSAM 문제와의 중첩
IWF의 2025년 데이터에 따르면 AI 생성 CSAM은 전체에서 차지하는 비중은 아직 작지만, 영상 기준으로는 전년 대비 수백 배 증가했다. 특히 가장 심각한 Category A 비율이 높아, 단순한 양적 증가를 넘어 질적 악화가 동반되고 있다. 아동이 스스로 신고하는 Report Remove 수치 증가는 ‘이미 피해가 발생한 후’의 대응이 얼마나 빠르게 늘어나고 있는지를 보여준다.
정책과 실행의 시차
영국은 법제적으로는 선제적 대응을 강화하고 있다. 그러나 법 시행과 실제 플랫폼·AI 서비스의 기술 조치, 그리고 국제적 공조 사이에는 시차가 존재한다. 오픈소스 모델과 해외 호스팅 서비스까지 아우르는 실효성 있는 통제가 가능한지가 핵심 과제로 남는다.
앞으로의 관전 포인트
신고 수치 자체는 ‘빙산의 일각’일 가능성이 높다. 서비스를 알지 못하거나, 수치심으로 신고를 기피하는 아동이 더 많을 수 있기 때문이다. 동시에 이 수치는 플랫폼 책임과 AI 안전 규제 논의에 구체적인 근거를 제공하고 있다.
기술적으로는 생성 단계에서 성적·아동 관련 콘텐츠를 차단하는 필터의 고도화, 해시 공유 체계의 확대, 그리고 오픈소스 모델에 대한 거버넌스가 관건이다. 사회적으로는 아동·학부모·학교의 디지털 리터러시와 사진 공유 관행의 변화가 병행돼야 한다.
이 문제는 영국만의 이슈가 아니다. 생성형 AI의 성능과 접근성이 전 세계적으로 빠르게 올라가고 있는 만큼, 유사한 신고 급증이 다른 국가에서도 나타날 가능성은 열려 있다.