고위험 시스템 의무는 연기됐지만 챗봇·생성형 콘텐츠 공개 의무는 그대로… 글로벌 기업 준수 부담 현실화

현재 적용 일정과 8월 2일의 의미

EU AI Act(Regulation 2024/1689)는 2024년 8월 1일 발효된 이후 단계적으로 적용되고 있다. 2026년 6월 29일 이사회가 최종 승인한 Digital Omnibus on AI에 따라 일부 일정이 조정됐으나, 8월 2일은 여전히 중요한 전환점이다.

주요 적용 일정을 정리하면 다음과 같다.

  • 2025년 2월 2일: 금지 관행(제5조)과 AI 리터러시 의무(제4조) 적용 시작
  • 2025년 8월 2일: 범용 AI(GPAI) 모델 의무와 거버넌스 체계 적용
  • 2026년 8월 2일: 투명성 의무(제50조) 본격 적용, 대부분의 잔여 규정 발효, 기존 의무에 대한 집행 강화
  • 2026년 12월 2일: 비동의 성적·친밀 콘텐츠 생성 AI와 아동 성착취물 관련 신규 금지 관행 적용, 기존 생성형 AI의 기계 판독 가능 표기 유예 종료
  • 2027년 12월 2일: Annex III 단독 고위험 시스템 의무 적용
  • 2028년 8월 2일: Annex I 제품 내장형 고위험 시스템 의무 적용

Digital Omnibus로 고위험 시스템 의무가 연기됐음에도 불구하고, 8월 2일은 ‘투명성 규칙’이 전면 가동되는 날이다. 이는 고위험 여부와 관계없이 광범위한 AI 시스템에 적용된다.

제50조 투명성 의무의 핵심 내용

제50조는 네 가지 상황에서 공개 의무를 부과한다.

직접 상호작용하는 AI 시스템

챗봇, 가상 비서 등 사람과 직접 상호작용하는 AI를 제공하는 자는 이용자가 AI와 대화하고 있다는 사실을 명확히 알려야 한다. 명백히 알 수 있는 경우나 법 집행 목적 예외가 있다.

합성 콘텐츠 생성

텍스트·이미지·오디오·영상을 생성하는 AI 제공자는 출력물이 AI로 생성됐음을 기계 판독 가능한 방식으로 표시하고, 탐지 가능하도록 설계해야 한다. 2026년 8월 2일 이전에 출시된 생성형 AI는 2026년 12월 2일까지 유예된다.

감정 인식·생체 분류

감정 인식이나 생체 분류 기능을 사용하는 배포자는 대상자에게 이를 알려야 한다.

딥페이크 및 공익 관련 텍스트

딥페이크나 공익 사안에 대한 정보를 목적으로 게시되는 AI 생성 텍스트는 배포자가 인공적으로 생성·조작됐음을 표시해야 한다. 예술·풍자 작품은 일부 완화된 기준이 적용된다.

이 의무는 고위험 시스템에 한정되지 않는다. 고객 대면 챗봇을 운영하거나, 마케팅·콘텐츠 제작에 생성형 AI를 활용하는 대부분의 기업이 해당된다. 오픈소스 AI에도 면제가 없다.

글로벌 기업에 미치는 실질적 영향

EU AI Act는 역외 적용 조항을 두고 있다. EU 시장에 서비스를 제공하거나 EU 이용자를 대상으로 하는 경우, 미국·중국·한국 기업도 동일하게 적용받는다.

운영 차원의 변화

  • 챗봇 인터페이스에 AI 고지 문구를 상시 표시해야 한다.
  • 생성형 AI 출력물에 워터마크·메타데이터 등 기계 판독 가능 표기를 심는 파이프라인을 구축해야 한다.
  • 딥페이크 콘텐츠를 활용하는 마케팅·미디어 부서는 라벨링 프로세스를 의무화해야 한다.

이 작업은 단순한 문구 추가가 아니다. 기존 모델의 출력 포맷을 수정하고, 배포 파이프라인을 재설계하며, 내부 감사 체계를 마련해야 한다. 특히 다국적 기업은 글로벌 제품에 EU 기준을 일괄 적용할지, EU 전용 버전을 별도로 운영할지 전략적 선택을 해야 한다.

비용과 준비 수준

법률·컨설팅 업계 분석에 따르면, 제50조는 AI 리터러시 다음으로 가장 많은 기업이 해당되는 의무로 평가된다. 고위험 의무가 연기되면서 일부 기업은 안도감을 보이지만, 투명성 의무는 이미 ‘소프트 데드라인’으로 인식되고 있다. 대형 플랫폼과 생성형 AI 제공업체는 대응을 상당 부분 마쳤으나, 중소기업과 비IT 업종에서는 준비가 미흡한 사례가 적지 않다.

심층 분석: 규제, 산업, 국제 질서

규제 당국 입장

유럽위원회와 AI Office는 투명성 의무를 ‘신뢰 구축을 위한 최소 조건’으로 본다. 이용자가 AI와 상호작용하는지, 콘텐츠가 인공적으로 생성됐는지 알 수 없게 되면 조작·허위정보·사기 위험이 커진다는 판단이다. 고위험 의무 연기는 표준과 가이드라인 준비 시간을 확보하기 위한 조치로 설명된다.

산업계 반응

일부 기업과 업계 단체는 과도한 표기 의무가 이용 경험을 해치고, 창작·연구 활동을 위축시킬 수 있다고 우려한다. 특히 오픈소스 커뮤니티와 창작 도구 제공업체는 ‘모든 출력물에 기계 판독 가능 표기를 강제하는 것’이 기술적으로 어렵고, 우회 가능성도 높다고 지적한다. 반면 대형 플랫폼 중 일부는 이미 자발적으로 유사 조치를 시행하고 있어, 규제 준수를 경쟁 우위 요소로 활용하려는 움직임도 나타난다.

국제적 파장 (브뤼셀 효과)

EU 기준이 사실상 글로벌 표준으로 작용하는 현상은 계속되고 있다. 미국 기업들은 제품 분절을 피하기 위해 EU 투명성 요건을 전 세계 서비스에 적용하는 경향을 보인다. 중국 기업 역시 EU 시장 접근을 위해 유사한 표기 기능을 도입하는 사례가 늘고 있다. 결과적으로 미국과 중국의 국내 규제 논의에도 EU의 투명성 모델이 참조 기준으로 쓰이는 상황이 만들어지고 있다.

집행 현실성

8월 2일 이후 즉시 대규모 제재가 이어질 가능성은 낮다. 회원국 시장감시 당국과 AI Office의 역량 구축이 아직 진행 중이기 때문이다. 초기에는 대형 제공자와 가시성 높은 위반 사례에 집중될 것으로 예상된다. 다만 제50조 위반에 적용되는 벌금 상한(최대 1,500만 유로 또는 전 세계 연간 매출의 3%)이 이미 정해져 있어, 중장기적으로는 실질적 압박으로 작용할 전망이다.

앞으로의 관전 포인트

  • 8월 2일 직후 주요 생성형 AI 서비스의 실제 표기 방식이 어떻게 구현되는지
  • 회원국별 집행 우선순위와 가이드라인 세부 내용
  • 기계 판독 가능 표기의 기술적 표준이 어느 수준으로 합의되는지
  • 고위험 의무 연기 기간 동안 기업들이 AI 거버넌스 체계를 실질적으로 고도화하는지, 아니면 단순 연기 효과로 끝나는지

8월 2일은 고위험 의무의 본격 적용일이 아니라, EU가 설정한 ‘AI와 인간 사이의 최소 투명성 기준’이 법적으로 강제되는 날이다. 이 기준이 실제 제품과 서비스에 어떻게 반영되고, 글로벌 AI 생태계에 어떤 파급력을 가질지가 앞으로 수개월간의 핵심 관찰 지점이 될 것이다.