브레이크와 가속페달을 함께 밟는 AI 경쟁

2026년 7월 공개된 ‘Pacing the Frontier’는 자동화된 AI 개발의 속도를 조절할 기술과 제도를 국제적으로 마련해 달라고 미국 정부에 요청했다. 서명자는 1,100여 명에서 1,300명 이상으로 늘었다. Anthropic CEO 다리오 아모데이, OpenAI 최고연구책임자 야쿠프 파초키, 마크 첸, 재러드 캐플런, 잭 클라크, 셩자 자오, Google DeepMind 공동창업자 셰인 레그, 일리야 수츠케버 등 주요 연구자와 경영진이 참여했으며 OpenAI와 Anthropic도 지지했다.

편지는 개별 기업이나 국가가 홀로 개발 속도를 늦추면 경쟁에서 뒤처진다고 전제한다. 하지만 미국은 중국의 반도체와 컴퓨팅 자원 접근을 제한하는 동시에 중국과 공동 상한을 합의해야 한다. 인터넷 거버넌스 연구자 밀턴 뮬러는 이를 ‘공포’와 ‘경쟁’이라는 두 관점의 충돌로 설명했다. 상대의 개발을 늦추는 수출 통제와 양국에 적용할 컴퓨팅 자원 제한을 함께 유지하기는 어렵다.

요구 수준은 높지 않다. 당장 개발을 중단하자는 대신 필요할 때 속도를 조절할 수단과 선택지를 미리 마련하자는 내용이다.

같은 시기 Anthropic은 자사 프로덕션 코드의 80% 이상을 Claude가 작성하며 엔지니어 한 명이 병합하는 코드의 양도 2024년보다 약 8배 늘었다고 발표했다. 7월 24일에는 Microsoft 등이 개방형 가중치(open weights, 모델의 학습된 수치를 공개해 누구나 내려받아 쓰게 하는 방식)와 미국의 AI 주도권을 강조하는 서한을 냈다. 기업들은 AI 개발의 성과를 알리는 한편 정부에는 향후 속도를 조절할 장치를 마련해 달라고 요구했다.

모델이 아니라 데이터센터의 병목을 보라

AI 개발 속도는 모델만 규제한다고 조절되지 않는다. 데이터와 반도체부터 전력, 냉각시설, 네트워크, 소프트웨어, 클라우드 배포까지 관리 대상에 포함해야 한다. AI에는 인터넷 주소 등록부처럼 통제 권한이 집중된 곳도 없다. 출시 전에 지식과 정보의 생산 수단을 제한하는 제도는 사전검열에 가까워질 수 있다.

행정명령 14409는 프론티어 모델(frontier model, 성능 최전선에 있는 최신 대형 AI 모델)을 공개하기 전 최대 30일간 정부가 자발적 협조를 받아 사이버 보안을 검토하도록 했다. 의무 허가와 사전 승인은 배제했다. 그러나 미국 상무부 산업안보국은 6월 Anthropic의 Mythos와 Fable에 외국인의 접근을 제한하는 라이선스 요건을 부과했다. 해당 조치는 철회됐지만 정부가 모델 가중치뿐 아니라 원격 API 이용까지 차단할 수 있음을 보여줬다.

주와 지방정부의 규제 범위는 더 넓다. 기술정책 연구자 애덤 티어러가 집계한 주 정부의 AI 관련 법안은 1,800건이 넘으며 데이터센터 건설 금지와 모라토리엄(moratorium, 일정 기간 신규 허가를 멈추는 조치)도 180건을 넘는다. 알고리즘 차별과 저작권, 아동 안전에 관한 규제에 입지와 전력 규제까지 더해졌다. 지역사회의 반대로 2026년 1분기에만 최소 75개 데이터센터 사업이 지연되거나 중단됐다. 사업 규모는 약 1,300억 달러에 이른다. 연방 AI 안전법이 마련될 때까지 데이터센터의 신설과 증설을 중단하는 H.R.9442도 발의됐다.

누구를 위한 프론티어 속도 제한인가?

AI 연구소가 규제를 요구하는 데에는 위험에 대한 우려와 사업적 이해가 함께 작용한다. 모든 기업에 같은 속도 제한을 두면 대형 연구소도 경쟁력을 혼자 포기할 필요가 없다. 표준 준수와 감사, 사전 보고, 컴퓨팅 자원 추적에 드는 비용 역시 자본과 인력이 많은 기존 사업자가 감당하기 쉽다. 공익을 내세우는 안전론이 진입장벽을 높이려는 업계의 이해와 맞물리는 ‘밀주업자와 침례교도(bootleggers and Baptists, 도덕적 명분을 내건 쪽과 규제로 이득을 보는 쪽이 같은 규제를 함께 지지하는 현상)’ 구도다.

국제적인 개발 속도 제한이 실효성을 가지려면 각국과 기업의 컴퓨팅 자원 사용을 감시하고 위반을 제재할 기구가 필요하다. 그러나 편지는 중국과 비동맹 국가의 활동, 공개된 가중치의 복제 여부를 어느 국제기구가 확인하고 제재할지 밝히지 않는다. 미국과 중국의 컴퓨팅 생태계가 분리되는 상황에서 두 나라가 공동 제한을 따르리라는 가정도 설득력이 낮다.

적용할 제도가 전혀 없는 것도 아니다. 연방법과 주 소비자보호법, 불법행위법, 제조물책임법은 AI가 일으킨 구체적인 피해에도 적용된다. 하지만 경쟁 때문에 자발적으로 개발을 멈출 수 없다는 업계의 주장은 책임을 강화하는 논의보다 허가제와 성능 제한, 일부 국가 중심의 통제 체제로 이어지기 쉽다. 안전을 명분으로 만든 감시 체계도 설계 방식에 따라 후발 사업자와 개방형 모델 개발자의 부담을 키운다.

능력 상한을 세우지 말고 복구 체계를 세워라

소프트웨어 사고는 출시 전 전문가 검토만으로 막기 어렵다. 2024년 7월 보안기업 CrowdStrike의 Falcon 설정 업데이트로 약 850만 대의 Windows 기기가 멈췄고 항공, 의료, 금융 서비스에 장애가 발생했다. 배포 전에 검토자가 연쇄 피해를 모두 예측하지는 못했다. 사고가 발생한 뒤 패치와 수동 복구, 원인 조사, 소송, 재발 방지 조치가 이어졌다.

AI 위험도 책임 규명과 리콜, 사고 보고로 관리하는 편이 그 성격에 맞는다. 미국 도로교통안전국(NHTSA)은 상시 사고 보고 명령에 따라 자율주행 사고 정보를 수집하고 조사와 리콜에 활용한다. 모델의 안전장치 우회도 목표 설정과 취약한 구성, 배포 권한이 복합적으로 작용한 사이버 보안 문제로 볼 수 있다. 피해가 커지는 과정에는 사람과 운영 조직의 판단이 개입한다.

행정명령 14409도 의무적인 사전 허가보다 자발적인 조기 접근과 사이버 방어, 취약점 정보 공유를 택했다. 기존 책임법에 투명성 확보와 제한적 감사, 사고 보고, 리콜을 추가하면 국제적인 능력 상한보다 집행 대상을 구체화하기 쉽다. 주, 지방정부가 데이터센터를 제한하고 연방정부가 갑작스럽게 배포를 통제해 공급부터 줄이면 안전 확보와 대중국 경쟁에 모두 불리하다. 가속 우려에는 모든 국가의 개발을 한꺼번에 중단하는 장치보다 사고 책임을 규명하고 제품을 수정하며 복구 정보를 공유하는 제도가 현실적인 대응책이다.

출처

#AI 정책#AI 안전#지정학#AI 산업

Evaluation · Safety · Governance 토픽 관련 글 더 보기

함께 읽기