7월 15일 시행된 ‘지능체 규범 적용 및 혁신 발전 실시 의견’, 추적·회수·인간 개입 체계를 제도화하다
규제 개요와 핵심 내용
중국 국가인터넷정보판공실(CAC), 국가발전개혁위원회(NDRC), 공업정보화부(MIIT)가 2026년 5월 8일 공동 발표한 《지능체 규범 적용 및 혁신 발전 실시 의견》이 7월 15일부터 본격 발효됐다. 이 문서는 AI 에이전트(지능체)를 대형언어모델의 단순 응용 사례가 아닌, 별도의 규제 대상인 ‘자율 인식·기억·의사결정·상호작용·실행 능력을 갖춘 지능형 시스템’으로 명확히 정의한 세계 최초의 국가 차원 프레임워크다.
문서의 기본 원칙은 네 가지로 요약된다.
- 안전성·통제 가능성
- 질서·표준화
- 혁신 주도
- 응용 견인
특히 고위험·민감 분야(의료, 교통, 미디어, 공공안전, 금융, 사법 등)에 대해서는 신고(filing), 테스트, 제품 회수(recall) 절차를 의무화했다. 저위험 분야(일반 사무·오락)는 자체 평가와 업계 자율 규제를 허용하는 차등 접근을 취한다.
의사결정 권한의 3단계 구조
규제에서 가장 눈에 띄는 장치는 3단계 의사결정 권한 체계다.
- 1단계: 사용자가 전적으로 소유하는 결정(중대한 결과 발생 시 반드시 인간이 직접 개시)
- 2단계: 에이전트가 제안·준비하되 사용자의 명시적 승인이 필요한 행위
- 3단계: 사용자가 사전에 설정한 범위 안에서만 허용되는 자율 결정
이 구조는 “사용자가 알 권리와 최종 의사결정권을 보유하며, 에이전트는 사용자 위임 범위를 넘어서는 안 된다”는 원칙을 제도적으로 고정한 것이다. 단순한 사후 감사가 아니라, 설계 단계부터 권한 경계를 강제하는 방식이다.
추적성·버전 관리·회수 메커니즘의 실제 의미
문서와 후속 해석에 따르면, 고위험 에이전트는 다음 요건을 충족해야 한다.
- 고유 식별자와 버전별 배포 기록 유지
- 행동 로그(호출한 도구, 사용한 자격 증명, 변경 사항) 보존
- 블록체인 등을 활용한 검증 가능한 추적성 확보 권장
- 문제 발생 시 해당 버전을 격리하거나 회수할 수 있는 절차 사전 구비
이는 소프트웨어에 ‘제품 회수’ 개념을 본격적으로 도입한 사례다. 기존 소프트웨어 업데이트나 서비스 중단과 달리, 에이전트가 이미 외부 시스템과 연결되어 행동한 경우에도 원인 버전을 특정하고 제거할 수 있는 능력을 요구한다.
심층 분석
기술 발전과 통제의 동시 추진
중국은 AI 에이전트를 2027년까지 스마트 단말기 채택률 70% 목표의 핵심 수단으로 보고 있다. 규제는 성장을 억제하기보다, 성장의 방향을 ‘통제 가능한 범위’ 안으로 끌어들이려는 시도로 읽힌다. 기초 모델 강화, 에이전트 툴체인 표준화, 상호운용 프로토콜(AIP) 제정 등 산업 기반 조성 조치가 함께 담긴 점이 이를 뒷받침한다.
글로벌 거버넌스 경쟁의 신호
미국과 유럽이 여전히 AI 에이전트를 기존 AI·사이버보안 규제의 연장선에서 다루는 동안, 중국은 별도 카테고리를 먼저 만들었다. 이는 ‘규제가 없는 중국’이라는 통념과 배치되며, 오히려 특정 영역에서는 더 세밀한 사전 규제를 선점했다는 평가를 낳고 있다. 7월 17~20일 상하이에서 열린 2026 세계인공지능대회(WAIC)에서 시진핑 주석이 글로벌 AI 거버넌스 공정성·형평성을 강조한 시점과도 맞물린다.
기업 실무에 미치는 영향
중국 내 고위험 분야에 에이전트를 배포하는 국내외 기업은 이제 다음을 준비해야 한다.
- 버전별 배포 기록과 행동 로그 체계
- 3단계 권한 모델에 맞춘 제품 설계 변경
- 신고·테스트·회수 시나리오 사전 수립
저위험 분야는 상대적으로 자유로우나, 플랫폼 차원의 자율 규제와 신용 평가 시스템이 강화될 가능성이 크다.
아직 남은 불확실성
문서 자체는 ‘실시 의견’ 성격으로, 세부 집행 기준과 벌칙 수위, 해외 사업자에 대한 적용 범위는 후속 표준과 부처 간 조율에 달려 있다. 회수 명령이 실제로 얼마나 빈번하게, 어떤 기준으로 내려질지는 아직 검증되지 않았다. 또한 에이전트 간 협업(multi-agent) 환경에서의 책임 소재 규정도 추가 보완이 필요할 전망이다.
시사점
중국의 이번 조치는 AI 에이전트가 단순한 도구를 넘어 ‘자율적 행위 주체’로 확산되는 시점에서, 국가가 선제적으로 안전장치와 책임 구조를 제도화한 사례다. 기술 경쟁력 강화와 리스크 통제를 동시에 추구하는 접근이 실제로 혁신 속도를 유지하면서도 사고 발생을 억제할 수 있을지는, 앞으로 1~2년간의 집행 데이터와 기업 적응 양상이 판가름할 것이다.