대규모 GenAI 제공자에 탐지 도구와 출처 표시 의무 부과… EU와 동시 발효
2026년 8월 2일, 캘리포니아 AI Transparency Act(SB 942, AB 853으로 수정)가 본격 시행된다. 월 100만 명 이상 사용자를 보유한 생성형 AI(GenAI) 제공자에게 AI 생성 콘텐츠에 대한 탐지 도구 제공과 출처 표시 의무를 부과하는 미국 주 단위 규제 중 가장 실질적인 조치다. 같은 날 EU AI Act의 투명성 의무(Article 50)도 적용되기 시작하면서, 대서양 양안의 주요 투명성 규제가 동시에 가동되는 시점이 됐다.
법의 핵심 내용과 적용 범위
이 법은 2024년 SB 942로 처음 제정된 뒤, 2025년 AB 853으로 수정되면서 시행일이 2026년 1월 1일에서 8월 2일로 연기됐다. 적용 대상은 ‘covered provider’로, 캘리포니아 내에서 공개적으로 접근 가능한 GenAI 시스템을 만들고 월 100만 명 이상의 방문자·사용자를 보유한 주체다.
주요 의무는 다음과 같다.
- 무료 AI 탐지 도구 제공: 사용자가 이미지·비디오·오디오(또는 이들의 조합) 콘텐츠가 해당 제공자의 GenAI 시스템으로 생성·수정됐는지 확인할 수 있는 도구를 무료로 공개해야 한다. 업로드나 URL 입력을 지원하며, 감지된 시스템 출처 데이터(system provenance data)를 출력하되 개인 출처 데이터는 노출하지 않는다.
- 명시적(manifest) 공개 옵션: 사용자가 생성한 콘텐츠에 ‘AI 생성’임을 명확하고 눈에 띄게 표시할 수 있는 선택지를 제공해야 한다. 표시는 매체에 적합하고 합리적인 사람이 이해할 수 있어야 하며, 쉽게 제거할 수 없어야 한다.
- 잠재적(latent) 공개: 기술적으로 실현 가능하고 합리적인 범위 내에서, 생성 콘텐츠에 기계가 감지할 수 있는 출처 정보를 임베드해야 한다. 여기에는 제공자 이름, 시스템 이름·버전, 생성·수정 시각, 고유 식별자 등이 포함된다.
위반 시 캘리포니아 법무장관·시 검사·카운티 변호사가 민사 소송을 제기할 수 있으며, 위반 건당 최대 5,000달러의 벌금이 부과된다. 하루가 지날 때마다 별도 위반으로 간주된다. 제3자 라이선스 계약에도 관련 조항을 넣도록 하고, 위반 시 라이선스 철회 의무까지 부과한다. 엔터테인먼트 콘텐츠(사용자 생성물이 아닌 게임·영화·스트리밍 등)는 예외다.
왜 이 시점에 중요한가
이 법은 단순한 주 단위 규제 이상의 의미를 가진다. 캘리포니아는 미국 최대 기술 허브이자 인구 기준 최대 시장 중 하나다. 실질적으로 글로벌 GenAI 서비스 대부분이 이 기준을 충족하므로, 법의 적용 범위는 사실상 미국 전역, 나아가 해외 서비스까지 확산될 가능성이 크다. 많은 기업이 캘리포니아 기준을 글로벌 표준으로 채택하는 ‘캘리포니아 효과’가 나타날 수 있다.
동시에 EU AI Act Article 50의 투명성 의무가 같은 날 적용되기 시작한다. EU는 합성 콘텐츠 표시, 딥페이크 라벨링 등을 요구하며, 캘리포니아법은 특히 탐지 도구와 잠재적 워터마크(출처 데이터)에 초점을 맞춘다. 두 규제가 겹치면서, 글로벌 사업업은 한 번의 기술 투자으로 양 시장을 동시에 대응해야 하는 상황에 놓였다.
심층 분석: 기회와 현실적 과제
소비자·사회 보호 측면
딥페이크, 사기, 정치적 허위정보 확산을 억제하는 실질적 도구를 제공한다. 사용자가 직접 콘텐츠의 AI 생성 여부를 확인할 수 있게 되면서, 플랫폼과 언론, 개인 모두 출처 검증 능력이 강화된다. 지지 측에서는 “콘텐츠 신뢰성을 회복하는 첫 단계”로 평가한다.
기술·산업 부담 측면
잠재적 공개(워터마크·메타데이터)의 기술적 실현 가능성과 강건성이 핵심 쟁점이다. 이미지가 재인코딩되거나 편집되면 워터마크가 손상될 수 있고, 표준이 아직 완전히 수렴되지 않았다. C2PA 같은 업계 표준이 부상하고 있지만, 모든 모델과 포맷에 일관되게 적용하기는 어렵다. 또한 오픈소스 진영에서는 라이선스 철회 조항이 오픈소스의 기본 원칙(철회 불가능성)과 충돌한다는 우려가 제기되고 있다. GitHub 등이 포함된 연합이 이미 입법부에 수정을 요구한 바 있다.
규제 패치워크와 연방 차원 논의
주별 규제가 늘어나면 기업은 비용과 복잡성이 급증한다. 일부에서는 “연방 차원의 통일된 투명성 기준이 필요하다”는 주장을 강화하는 계기가 될 것으로 본다. 반면 캘리포니아의 先行 조치가 다른 주(뉴욕, 워싱턴 등)의 유사 입법과 연방 논의에 촉매 역할을 할 가능성도 높다.
후속 단계의 무게
2027년 1월 1일부터는 대형 온라인 플랫폼(월 200만 사용자 이상)에 출처 데이터 탐지·표시 의무가 추가되고, GenAI 호스팅 플랫폼은 비준수 시스템을 배포하지 못하게 된다. 2028년에는 카메라·스마트폰 등 캡처 기기 제조사까지 범위가 확대된다. 첫 단계가 원활히 작동해야 후속 단계의 실효성이 담보된다.
앞으로 지켜볼 포인트
실제 집행 강도와 기술적 표준 수렴 속도가 관건이다. 캘리포니아 법무장관실이 이미 AI 관련 집행 의을 강화하고 있는 만큼, 초기 위반 사례가 빠르게 등장할 수 있다. 동시에 “기술적으로 실현 가능하고 합리적인 범위”라는 문구가 어떻게 해석될지, 오픈소스·중소 모델에 대한 적용 유연성이 어디까지 인정될지도 주목된다.
이 규제는 AI 생성 콘텐츠의 ‘출처를 아는 권리’를 제도화한 첫 미국 주 단위 시도다. 단기적으로는 기업에 부담이지만, 장기적으로는 콘텐츠 생태계의 신뢰 인프라를 구축하는 방향으로 작용할 가능성이 크다. 다만 그 성패는 탐지 기술의 실제 성능과, 업계·규제 당국이 표준을 얼마나 빠르게 합의하느냐에 달려 있다.