위반 시 최대 20년형…”기업 사형”·내각급 AI부 신설
샌더스·카사르 의원이 23일(현지시간) 인공초지능을 영구적으로 금지하고 고급 AI를 일시 중단하는 법안을 발의했다.
법안은 공화당이 장악한 의회에서 올해 의미 있는 통과 가능성이 낮다고 NBC 뉴스가 전했다. 그러나 19쪽짜리 본문은 위반 시 법인 해산과 개인 최대 20년형을 걸고, 내각급 인공지능부 신설을 명시했다.
초지능은 영구금지, 고급 AI는 중단
카사르 의원실 발표에 따르면 「인공초지능 금지법」은 인공초지능을 두 갈래로 정의한다. 대부분 영역에서 인간 인지능력을 넘는 시스템이거나, 인류를 파괴·무력화하거나 연방정부를 전복할 능력을 가진 시스템이다. 누구든 이를 개발하거나 배포하는 행위를 막는다.
고급 AI는 영구금지가 아니다. 새 연방 규제기구가 안전 규칙과 모델 심사 절차를 세울 때까지 개발을 멈춘다. 법안은 고급 AI를 연산량 10^25를 넘는 시스템으로 정했다(안전 단체 ControlAI 분석). 연방 자금이 들어간 방어용 사이버보안 연구는 예외다.
카사르 의원은 모든 AI를 멈추는 것은 아니라고 롤콜에 말했다. 의료 혁신 가능성은 남는다. 다만 핵·화학·생물무기 설계를 끌어올리거나, 인간을 속이거나, 스스로 기능을 바꾸는 ‘초지능 전조 특성’도 금지 대상에 넣었다. 샌더스 의원은 트럼프 대통령이 시진핑 국가주석과 초지능 금지 한도를 논의해야 한다고 촉구했다.
위반하면 법인 해산·최대 20년형
법안 한 장 요약은 금지·중단을 어기거나 우회하는 개인에게 최대 20년형을 적용한다고 적었다. 핵무기를 불법으로 개발할 때와 비슷한 형량이다. 법인에는 ‘기업 사형’, 즉 영업을 끝내는 해산을 걸었다.
샌더스 의원은 발표문에서 이렇게 말했다.
절벽을 향해 달릴 때 가속 페달만 살짝 늦추지 않는다. 브레이크를 밟는다.
— 버니 샌더스 상원의원, 카사르 의원실 9월 23일 · “When you are racing towards a cliff, you don’t just ease up on the gas pedal. You hit the brakes.”
법안 조항별 요약상 금지 범위는 개발·배포뿐 아니라 확보·보유·자금 지원·수입·이전까지 포함한다. 초지능 전조 특성이 드러난 시스템은 즉시 인터넷에서 분리한다. 개발자가 그 특성을 제거하지 못하면 발견일로부터 30일 안에 작동을 멈춘다.
내각급 AI부가 사전승인·폐기 감독
법안은 내각급 인공지능부를 새로 두고 AI 장관이 이끌게 한다. 이 부처는 최전선 AI를 전 주기에서 감시하고, 종료 명령을 우회하거나 무단 사이버공격을 하는 능력을 제거하도록 감독한다. 인공초지능의 폐기도 감독한다.
고급 AI를 다시 개발하려면 이 부처의 허가가 필요하다. 기업은 개발 전 계획서를 내고 공개 배포 전 최종 승인까지 받는다. 국무부와 함께 해외에서도 초지능을 막기 위한 국제협정·수출통제·동맹 공조를 추진하는 것이 미국 정책이 된다.
카사르 의원은 국제합의를 기다리지 않고 미국 안에서 먼저 멈춰야 한다고 액시오스에 말했다. 중국이 미국 모델을 학습에 쓰기 때문에, 미국이 위험한 개발을 멈추면 중국의 위험한 진전도 늦춰진다는 논리다. 법안 목표는 “재앙을 향한 경쟁을 멈추는 것”이다.
업계 일부 지지…하원은 이미 휴회
오픈AI 안전시스템 연구자 후안 펠리페 세론 우리베, 구글 딥마인드 소프트웨어 엔지니어 스반테 숄츠 등이 지지 성명에 이름을 올렸다고 AP통신이 전했다. 숄츠는 고용주와 무관하다는 전제 아래 “지금 경로에서 가장 가능성 높은 결과는 인류에 대한 실존적 재앙”이라고 밝혔다. 세론 우리베는 초지능이 “극단적으로 잘 풀리거나 극단적으로 잘못될 수 있다”며 “그런 게임을 해서는 안 된다”고 말했다.
업계 단체에서는 반대가 나왔다.
샌더스 의원 법안은 AI 업계와 워싱턴 양쪽에서 도착과 동시에 죽는다.
— 케일럽 맥스 전국AI협회 대표, NBC 뉴스 9월 23일 · “Sen. Sanders’ bill will be dead on arrival with both the AI industry and Washington”
법안 번호는 아직 붙지 않았다. 하원은 중간선거 다음 주까지 휴회에 들어갔다.