xAI 긴급 가처분 기각… 비동의 딥페이크 규제 선례와 표현의 자유 논쟁 본격화
법 발효 현황과 핵심 내용
2026년 8월 1일, 미네소타주에서 미국 최초로 AI 기반 ‘누디피케이션(nudification)’ 기술을 금지하는 주법이 정식 발효됐다. HF 1606(Chapter 72)은 2026년 5월 7일 팀 월즈 주지사가 서명한 뒤 약 3개월의 준비 기간을 거쳐 시행에 들어갔다. 법안은 하원에서 132대 1, 상원에서 65대 0으로 초당적 지지를 받으며 통과됐다.
주요 금지 조항
- 웹사이트·앱·소프트웨어 등 서비스 소유·운영자가 사용자가 식별 가능한 인물의 이미지를 ‘누디파이’(원본에 없던 친밀 부위를 사실적으로 추가·생성)하는 기능을 제공하거나, 대신 생성해 주는 행위를 금지한다.
- 해당 서비스의 광고·홍보도 금지된다.
- ‘친밀 부위’는 생식기, 사타구니, 허벅지 안쪽, 엉덩이, 유방 등으로 넓게 정의된다.
- 예외: 사용자가 상당한 기술적·예술적 숙련을 직접 투입해 통제하는 경우에만 허용된다.
제재와 구제
- 주 검찰총장은 위반 행위마다 최대 50만 달러의 민사 과징금을 부과할 수 있으며, 징수된 금액은 피해자 지원 기금으로 적립된다.
- 피해자는 실제 손해의 3배까지 보상적 손해배상, 징벌적 손해배상, 변호사 비용, 금지명령 등을 청구할 수 있다.
- 기존 비동의 이미지 유포 관련 형사 처벌 규정은 별도로 유지된다.
이 법은 단순히 ‘유포’를 처벌하는 기존 딥페이크 규제와 달리, 생성 도구 자체의 제공을 차단하는 데 초점을 맞춘 점이 특징이다. 법안 추진 배경에는 소셜미디어 사진을 이용해 80명 이상의 지인 여성을 대상으로 비동의 성적 이미지를 대량 생성한 실제 피해 사례가 크게 작용했다.
xAI의 법적 도전과 법원의 판단
법 발효 직전, xAI(엘론 머스크 계열 AI 기업)는 미네소타 주 검찰총장 키스 엘리슨을 상대로 연방 소송을 제기하고 임시 제지 명령(TRO)을 신청했다. 2026년 7월 27일 소송 제기 후 7월 29일 긴급 신청을 냈으나, 7월 31일 도노번 프랭크 연방 판사는 이를 기각했다.
기각 핵심 논리
- xAI가 법 서명(5월) 후 거의 3개월이 지난 시점에, 발효 3일 전에야 긴급 구제를 요청한 점을 지적했다.
- “이러한 지연은 피해가 즉각적이지 않음을 시사한다”고 명시했다.
- 예비적 금지명령(preliminary injunction) 심리는 8월 19일로 잡혔으며, 그 전까지 법은 효력을 유지한다.
xAI는 소송에서 이 법이 내용 기반(content-based) 규제로 엄격 심사를 받아야 하며, 동의 여부·유포 여부·의도 여부와 무관하게 생성 행위 자체를 처벌하는 과도한 범위 때문에 수정헌법 1조를 침해한다고 주장한다. 특히 Grok Imagine의 이미지 편집 기능이 미네소타 사용자에게 사실상 제한될 수밖에 없다고 강조했다. 주 검찰 측은 아동 성적 학대 물질(CSAM) 생성 위험과 비동의 이미지 피해를 강조하며 법의 합헌성을 방어하고 있다.
심층 분석: 규제 선례가 던지는 질문들
피해자 보호와 사회적 안전 관점
미네소타 법은 ‘생성 단계’에서 도구를 차단함으로써 피해 발생 자체를 줄이려는 선제적 접근이다. 기존 대부분 주의 딥페이크 법은 유포나 협박을 처벌하는 사후적 성격이 강했다. 2026년 기준으로 미국 48개 주가 비동의 성적 딥페이크 관련 규정을 두고 있지만, 생성 도구 자체를 금지한 것은 미네소타가 최초다. 피해자 지원 단체와 여성·아동 권리 옹호 측은 이를 환영하며, 다른 주로의 확산을 촉구하고 있다. 특히 AI로 생성된 CSAM의 급증 통계가 법 추진에 힘을 보탰다.
표현의 자유와 기술 혁신 관점
반대 측(xAI 포함)은 법이 지나치게 넓다고 지적한다. ‘친밀 부위’ 정의가 셔츠 없는 남성, 수영복 차림 등 일상적 이미지까지 포괄할 수 있고, 동의 하에 생성된 이미지나 예술·정치적 풍자·의학적 교육용 이미지도 잠재적으로 규제 대상이 될 수 있다는 것이다. 엄격한 민사 과징금(위반당 50만 달러)이 플랫폼으로 하여금 기능을 광범위하게 차단하도록 유도해, 합법적 표현까지 위축시키는 ‘냉각 효과’를 낳을 수 있다는 우려가 제기된다. 일반 목적의 이미지 생성 AI가 특정 주에서 기능 제한을 강제받는 선례가 되면, 기술 발전과 서비스 제공의 지역적 단절이 심화될 가능성도 있다.
집행의 현실성과 기술적 한계
법의 실효성은 아직 검증되지 않았다. 서비스 제공자가 미네소타 IP나 계정만 차단하는 방식으로 대응할 경우, VPN 등 우회 수단이 쉽게 등장할 수 있다. 또한 ‘상당한 기술적 숙련’ 예외의 경계가 모호해, 어떤 도구가 예외에 해당하는지에 대한 분쟁이 이어질 전망이다. 주 검찰의 과징금 부과와 피해자 소송이 실제로 얼마나 활발히 이뤄질지도 관건이다. 한편, 법은 Section 230(온라인 플랫폼 면책) 보호를 명시적으로 변경하지 않는다고 밝히고 있어, 제3자 콘텐츠에 대한 책임 범위는 기존 틀을 유지한다.
전국적·연방 차원의 함의
미네소타 선례는 다른 주의 입법 논의에 직접적인 영향을 줄 가능성이 크다. 이미 여러 주에서 비동의 이미지 관련 법을 강화하는 추세이며, 일부에서는 유사 생성 도구 규제 법안이 검토되고 있다. 연방 차원에서는 ‘Take It Down Act’ 등 유포 차단 중심의 접근이 논의된 바 있으나, 생성 도구 자체를 금지하는 수준의 전국 단일 법은 아직 없다. xAI 소송의 최종 결과가 나오면, 주 차원의 강력한 규제가 수정헌법 1조 심사를 통과할 수 있는지에 대한 중요한 기준점이 될 것이다. 8월 19일 예비적 금지명령 심리가 그 첫 본격 시험대가 된다.
전망: 규제와 기술, 권리의 균형점 모색
미네소타 법 발효는 AI 시대의 이미지 조작 문제에 대한 가장 적극적인 주 차원의 대응이라는 점에서 의미가 크다. 동시에 표현의 자유, 기술 중립성, 집행 가능성 사이에서 발생하는 긴장 관계를 선명하게 드러냈다. 단기적으로는 xAI를 비롯한 AI 기업들이 지역별 기능 제한을 확대할 가능성이 있고, 장기적으로는 연방 의회나 다른 주가 더 정교한 균형점(동의 요건, 의도 요건, 안전한 항구 조항 등)을 모색하는 계기가 될 수 있다.
피해 예방의 실질적 효과와 과도한 규제로 인한 부작용 사이의 저울질은 이제 법정과 입법 과정에서 본격적으로 시작됐다. 8월 19일 심리 결과와 이후 다른 주의 움직임이 이 논쟁의 다음 국면을 결정할 것이다.