EU AI Act 투명성 의무 이행… 텍스트 복사·붙여넣기에도 남는 프로비넌스 시대 개막
Anthropic이 Claude 생성 콘텐츠에 기계 판독 가능한 마크를 모델 레벨에서 적용한다고 공식 문서화했다. 2026년 8월 2일 이후 EU에서 출시되는 신규 모델부터 적용되며, 전 세계적으로 동작한다. 이는 EU AI Act Article 50(2)의 투명성 의무를 실질적으로 이행하는 첫 번째 주요 상용 프론티어 모델의 사례로 평가된다.
확인된 사실과 적용 범위
Anthropic은 EU AI Act Article 50(2) Code of Practice on Transparency of AI-Generated Content에 서명했다. 이에 따라 신규 Claude 모델은 생성 콘텐츠에 기계 판독 가능한 마크를 의무적으로 삽입한다.
텍스트 마크 방식
- 지원되는 Claude 모델이 텍스트를 생성할 때, 의미·품질·가독성을 바꾸지 않는 비가시 워터마크를 텍스트 자체에 직접 직조한다.
- 워터마크는 텍스트의 일부이므로 복사·붙여넣기 후에도 유지되며, 일부 편집 과정에서도 남을 수 있다.
- 모델 레벨에서 적용되므로 API, Claude 웹/앱, Claude Code, Claude Cowork, Claude Tag 등 모든 제품 표면과 AWS·Google Cloud·Microsoft Foundry를 통한 접근에도 동일하게 동작한다.
파일 마크 방식
- .svg, .png, .jpg 등 지원 파일 형식에는 C2PA(Coalition for Content Provenance and Authenticity) 표준에 따른 디지털 서명 프로비넌스 메타데이터를 부착한다.
- 서명된 메타데이터가 존재하면 해당 파일이 Claude에 의해 처리됐음을 나타내며, 이후 변조 여부도 확인할 수 있다.
- 플랫폼·기능에 따라 메타데이터 지원이 제한될 수 있다.
적용 시점과 범위
- 2026년 8월 2일 이후 EU에서 출시되는 신규 모델부터 출시 즉시 지원.
- 기존 모델은 법률상 전환 기간을 활용해 추가 작업을 진행 중.
- 마크는 EU에 국한되지 않고 Claude가 제공되는 전 세계 모든 지역에서 적용된다.
- Anthropic은 향후 감지 도구와 기술 문서를 공개할 예정이다.
이 내용은 Anthropic Claude Help Center 문서와 The Register 등 보도를 통해 교차 확인됐다.
규제 배경: EU AI Act Article 50의 현실화
EU AI Act Article 50은 생성형 AI 시스템이 합성 오디오·이미지·비디오·텍스트를 생성할 때, 출력이 기계 판독 가능한 형식으로 마크되고 인공적으로 생성·조작된 것으로 탐지 가능하도록 요구한다. 의무는 2026년 8월 2일부터 적용되며, 그 이전에 시장에 출시된 시스템에는 2026년 12월 2일까지 전환 기간이 주어진다.
Code of Practice는 단일 기술로는 충분치 않다는 점을 인정하고, 디지털 서명 메타데이터와 비가시 워터마크를 결합한 다층 접근을 권고한다. Anthropic의 조치는 이 권고를 가장 명확하게 이행한 사례 중 하나로, 다른 주요 제공사에도 유사 조치 압박이 커질 가능성이 높다.
기술적 특성과 한계
워터마크의 본질
Anthropic은 정확한 구현 방식을 아직 공개하지 않았다. 다만 업계 연구와 일반적인 LLM 워터마크 기법에 비춰보면, 다음 토큰 샘플링 시 비밀 키를 활용해 특정 토큰 집합(소위 green list)의 확률을 미세하게 높이는 통계적 편향 방식이 유력하다. 이 방식은 텍스트에 추가 문자나 메타데이터를 삽입하지 않으며, 사람이 읽었을 때 차이를 느끼지 못한다.
인정된 한계
Anthropic 스스로 다음과 같은 한계를 명시했다.
- 마크가 감지됐다고 해서 Claude가 원저자임을 완전 확정하지 않는다. 교정·번역·요약·파일 변환 등 ‘처리’만 해도 마크가 남을 수 있다.
- 마크가 없다고 해서 AI 개입이 없음을 보장하지 않는다.
- 과도한 편집·의역·번역·짧은 텍스트·메타데이터 제거(스크린샷, 형식 변환 등) 시 마크가 사라지거나 약화될 수 있다.
C2PA 메타데이터 역시 개방형 표준이지만, 이미 오픈소스 제거 도구가 존재하며 스크린샷이나 재인코딩으로 쉽게 소실된다.
심층 분석
기업·실무 관점
기업 사용자는 이제 생성·편집 워크플로에서 프로비넌스 관리를 필수 과제로 인식해야 한다. 계약서 초안, 내부 보고서, 고객 커뮤니케이션 등에 Claude가 개입했을 경우 마크가 남을 수 있으며, 이는 법적·평판 리스크로 이어질 가능성이 있다. 특히 ‘인간 작성물’로 제출되는 문서에서 AI 처리 흔적이 발견될 경우 신뢰도 논란이 발생할 수 있다. CIO·법무팀 차원에서 감지 도구 대응과 내부 가이드라인 정비가 시급해졌다.
크리에이터·개인 사용자 관점
유료 사용자와 콘텐츠 크리에이터 사이에서는 “내가 비용을 지불한 출력물에 추적 가능한 마크를 심는 것은 통제”라는 반발이 나타날 수 있다. 복사·붙여넣기만으로도 마크가 남는다는 점은 블로그·뉴스레터·소셜 미디어 콘텐츠의 추적 가능성을 높인다. 반면 투명성을 중시하는 측에서는 EU 규제 준수를 긍정적으로 평가하며, AI 슬롭(저품질 양산 콘텐츠) 구별에 도움이 될 것이라는 기대를 보인다.
산업·경쟁 구도
Anthropic이 먼저 움직이면서 OpenAI, Google, Meta 등 다른 프론티어 모델 제공사에도 유사 조치 압박이 가해질 전망이다. 특히 텍스트 워터마크는 이미지·비디오보다 구현과 내구성이 까다로운 영역으로, 상용 모델 중 모델 레벨 텍스트 워터마크를 공개적으로 적용한 사례는 드물다. 이는 오픈웨이트 모델로의 이탈 가능성을 일부 자극할 수 있으나, 동시에 규제 준수 능력을 차별화 요소로 삼는 계기가 될 수도 있다.
장기적 함의
이번 조치는 ‘AI가 생성한 콘텐츠인가’를 둘러싼 탐지·증명 문제를 규제 차원에서 본격화하는 신호다. 완벽하지 않은 기술임에도 불구하고, 마크가 ‘있을 수 있는 신호’로 기능하기 시작하면 플랫폼·미디어·교육기관·법조계의 콘텐츠 검증 관행이 변화할 가능성이 있다. 감지 도구의 공개 범위와 상호운용성, 그리고 다른 제공사들의 후속 조치가 다음 관전 포인트다.
Anthropic의 이번 발표는 기술적 완성도보다 규제 준수의 가시적 이행에 무게를 둔 결정이다. 워터마크와 C2PA가 실제로 얼마나 견고하게 작동할지, 그리고 사용자와 기업이 이를 어떻게 받아들이고 대응할지가 앞으로의 핵심 쟁점이 될 것이다.