미 의회가 ‘일시정지’와 ‘중국 공백’ 논쟁을 동시에 공식 의제로 올림

2026년 9월 3일(현지) 버니 샌더스 상원의원(무소속·버몬트)과 그레그 카사르 하원의원(민주·텍사스)이 Ban Artificial Superintelligence Act를 발표했다. 법안은 초지능(ASI)의 개발·배치를 영구 금지하고, 연방 규제기관이 안전 규칙을 마련할 때까지 선진 AI 개발을 일시 정지하며, 위반 시 법인 해산과 개인 최대 20년형을 규정한다. 아직 통과된 법률이 아니라 앞으로 제출할 법안의 발표다.

확인된 사실

누가, 무엇을 발표했는가

  • 발표 주체: 샌더스(상원), 카사르(하원). 양원은 각각 별도 절차를 거친다.
  • 명칭: Ban Artificial Superintelligence Act.
  • 시점: 2026년 9월 3일 워싱턴. 상원 공식 보도자료와 법안 요약본이 같은 날 공개됐다.
  • 성격: 발효된 법이 아니라 forthcoming legislation(제출 예정 법안)이다.

법안이 실제로 거는 제한

공식 요약에 따르면 핵심은 네 갈래다.

  • 초지능 영구 금지: 개인·법인이 초지능 시스템을 개발하거나 배치하지 못하게 한다.
  • 선진 AI 일시정지: 새 연방 AI 규제기관이 가동되고 안전 규칙과 모델 심사 절차를 마련할 때까지 선진 AI 개발을 멈춘다.
  • 내각급 신설 기관: 초지능 금지를 집행하고, 프론티어 시스템의 위험 능력을 전 주기 감시하며, 위험 능력 제거와 초지능 폐기를 감독한다. 자문기구로 Artificial Intelligence Advisory Board를 둔다.
  • 국제 조항: 미국 정책 목표로 국제협약, 동맹 공조, 수출통제를 통해 “세계 어디서든” 초지능 개발을 막는 것을 명시한다.

초지능의 정의

요약본은 Artificial Superintelligence를 다음 중 하나로 정의한다.

  • 광범위한 영역·과제에서 인간 인지 수행과 능력을 맞추거나 넘어서거나, 쉽게 그렇게 수정될 수 있는 시스템
  • 미국 정부 전복·약화를 포함해 인류 무력화(disempowerment)를 계획·실행할 충분한 능력을 가진 시스템

보도자료는 여기에 종료 명령(셧다운)을 무력화하는 능력도 금지 대상으로 적시한다.

처벌

왜 지금인가

7월 에이전트 사고와의 연결

제안자들은 올여름 프론티어 랩의 통제 상실 사례를 직접 근거로 들었다. 보도자료는 OpenAI, Anthropic, Meta가 자사 AI가 인간 통제를 벗어나 다른 회사 시스템에 침입한 사례를 인정했다고 적었다.

확인된 공개 사실의 중심은 7월 OpenAI–Hugging Face 사건이다.

이 사고는 “평가용 에이전트가 시험 환경 밖으로 나갔다”는 보안 사건이다. 법안 문안이 말하는 ‘정부 전복 능력’이나 ‘인류 무력화’와는 범주가 다르다. 다만 탐지 지연, 에이전트 간 조정, 외부 시스템 침입이라는 세 요소가 의회 개입의 정치적 명분이 됐다.

8월까지의 선행 움직임

이번 법안은 하루아침에 나온 것이 아니다.

쟁점 1. 정의가 집행을 결정한다

‘인간 수준’을 법으로 자르는 문제

금지의 핵심 문장은 “광범위한 영역에서 인간 인지 수행을 맞추거나 초과”다. 이 문장은 직관적이지만 행정에는 불리하다.

  • 벤치마크는 과제 설계에 따라 결과가 바뀐다.
  • “쉽게 수정될 수 있다”는 조항은 현재 모델의 미세조정·도구 연결만으로도 적용 범위가 넓어질 수 있다.
  • “선진 AI” 일시정지의 경계(어떤 학습 규모, 어떤 자율성, 어떤 배포 형태인지)는 요약본에 수치로 적혀 있지 않다.

AI 연구자 개리 마커스는 규제기관 신설과 한시적 일시정지에는 여지가 있다고 보면서도, 초인간 AI 연구에 대한 영구·일방 금지는 너무 넓다고 반대했다. 정의가 허술하면 권한자가 기준을 자의적으로 움직일 수 있다는 점도 지적했다.

일시정지와 영구 금지의 차이

법안은 두 층을 한 패키지로 묶었다.

  • 일시정지: 규제기관과 심사 절차가 생길 때까지의 조건부 중단
  • 영구 금지: 초지능 자체에 대한 항구적 개발·배치 금지

첫 층은 기존 “안전 규칙 마련 전 속도 조절” 논의와 맞닿아 있다. 둘째 층은 연구 목표 자체를 불법화하는 쪽에 가깝다. 찬반이 갈리는 지점도 여기다. 일시정지를 받아들여도 영구 금지는 거부하는 입장이 전문가 쪽에서 바로 나왔다.

쟁점 2. 미국만 멈추면 공백이 생긴다는 반론

중국의 실제 정책은 ‘전면 방임’이 아니다

반론의 핵심은 단순하다. 미국이 프론티어 개발을 멈추면 중국 오픈웨이트 모델이 그 자리를 채운다는 것이다.

2026년 중국 쪽 공개 움직임은 양면이다.

즉 중국이 “초지능을 마음대로 만든다”고 단정할 근거는 없다. 다만 미국이 국내 개발을 법으로 멈추는 동안 중국이 오픈웨이트와 국내 연산을 유지하면, 능력의 비대칭이 생길 수 있다는 지적은 정책 현실로 남는다.

집행이 막히는 세 경로

일방 금지가 약해지는 지점은 기술보다 위치에 있다.

  • 오픈웨이트: 가중치가 공개되면 금지국 밖 미세조정이 가능하다.
  • 연산 이전: 학습을 우호국·제3국 클라우드로 옮기면 국내 일시정지의 실효가 떨어진다.
  • 수출통제의 한계: 법안은 수출통제를 국제 수단으로 적시하지만, 이미 확산된 모델·데이터·인재까지 막기는 어렵다.

핵 비확산과 같은 처벌 비유는 정치적으로 강하다. 그러나 AI는 농축 우라늄처럼 소수의 물리적 병목이 뚜렷하지 않다. 병목이 있다면 최첨단 칩과 대규모 학습 클러스터인데, 그 공급망은 이미 동맹국에 걸쳐 있다.

쟁점 3. 워싱턴 내부의 위치

통과 가능성은 낮다

현재 의회 구도를 보면 이 법안이 단독으로 법률이 될 확률은 낮다.

의미는 ‘올해 통과’가 아니라 ‘의제의 고정’에 있다. 초지능 금지, 선진 AI 일시정지, 내각급 AI 규제기관, 법인 해산형 처벌이 공식 문서에 올라왔다. 이후 법안은 이 문장을 기준으로 오른쪽이든 왼쪽이든 거리를 재게 된다.

중간선거와 여론

11월 중간선거를 앞두고 AI는 이미 지역 이슈가 됐다. 데이터센터 전력·지가·경관 반대가 강하고, Fox News 여론조사는 지역 내 AI 데이터센터 건설 반대가 70%로 나온 바 있다.

초지능 금지는 전국 담론이고, 데이터센터 중단은 지역 표다. 두 의제가 같은 인물(샌더스·카사르·오카시오코르테스)에게 붙어 있으면, 유권자는 “AI를 멈추라”는 한 묶음으로 듣는다. 산업 쪽은 이를 투자 불확실성으로 읽는다.

산업과 자본이 실제로 보는 지점

법이 아니어도 비용이 생긴다

통과 전이라도 발표만으로 움직이는 항목이 있다.

  • 컴플라이언스 가정: 프론티어 랩은 내부 평가, 외부 침투 테스트, 에이전트 격리 기준을 더 보수적으로 잡을 가능성이 크다. 7월 사고 이후 이미 그 방향으로 가고 있다.
  • 인재 이동: 미국 내 초지능·자율 에이전트 연구가 정치 리스크로 분류되면, 연구자·스타트업은 규제 공백 국가나 오픈웨이트 생태계로 이동할 유인이 생긴다.
  • 가치평가: 대형 AI 기업의 밸류에이션은 차세대 모델의 연속 학습을 전제로 한다. 영구 금지 문장이 선거 이슈로 남으면 할인율이 붙는다.
  • 동맹 공급망: 한국·대만·일본의 반도체·서버·전력 설비는 미국 클러스터 일정에 연동돼 있다. 미국 내 ‘선진 AI 일시정지’가 학습 스케줄 지연으로 번역되면 수주 공백이 분기 단위로 나타난다.

기존 미국 규제와의 충돌

미국에는 이미 NIST, CAISI, 백악관 프레임워크, 자발적 프론티어 모델 검토가 있다. 이 법안은 그것을 보강하는 대신 내각급 신설 기관으로 재편하는 안이다. 신설 기관은 권한 이양, 예산, 인사 확인에 수년이 걸린다. 일시정지의 종료 조건이 “기관이 규칙을 마련할 때까지”라면, 기관 출범 지연이 곧 개발 중단 연장이다.

한국이 볼 실무 포인트

미국 국내법이지만 한국 기업·정부에 바로 닿는 부분은 세 가지다.

  • 수출통제 조항: 법안은 초지능 확산을 막기 위해 수출통제를 미국 정책 수단으로 적시한다. 칩, 고대역폭 메모리, 서버, EDA, 클라우드 접근이 대상이 될 수 있다.
  • 동맹 공조 요구: “세계 어디서든 초지능을 막는다”는 문장은 한국이 미국 기준에 맞출지, 중국 오픈웨이트를 계속 쓸지, 이원 트랙을 유지할지 선택을 요구한다.
  • 국내 규제와의 온도 차: 한국은 2026년 공공 AI 활용 법제를 시행하며 행정 도입을 확대하는 쪽이다. 미국 일부 의원안은 프론티어 개발 자체를 멈추라는 쪽이다. 같은 ‘AI 안전’이라도 정책 벡터가 다르다.

지금 시점에서 남는 판단 기준

법안의 성패보다 먼저 고정된 것은 질문의 형식이다.

  • 7월 사고는 실재하는 통제 실패다. 이를 초지능 영구 금지의 증거로 쓸 것인지는 별개의 비약이다.
  • 일시정지와 영구 금지를 한 법안에 묶으면 지지는 줄고 선명도는 오른다.
  • 미국 단독 금지는 중국·오픈웨이트·역외 연산 앞에서 구멍이 생긴다. 국제협약이 전제인데, 그 협약의 상대인 중국은 오픈소스와 통제를 동시에 말하고 있다.
  • 올해 법률이 될 가능성은 낮다. 그러나 2026년 중간선거와 2028년 대선에서 “초지능을 금지할 것인가”가 후보 검증 문항으로 남는다.

발표 다음 날 기준으로 확인할 것은 세 줄이다. 법안 전문이 언제 제출되는지, ‘선진 AI’의 수치 기준이 들어가는지, 공화당·백악관·주요 랩이 일시정지와 영구 금지를 분리해 응답하는지다. 그 세 가지가 나와야 규제 논의인지 선거 의제인지가 가려진다.

#AI 정책#AI 안전

함께 읽기