누가 AI의 위험선을 긋는가
빌 게이츠는 2026년 8월 AI가 초래할 세 가지 위험을 제시했다. 영구적인 일자리 감소, 바이오무기 개발 장벽의 붕괴, 중독성 챗봇이 일으킬 정신적 피해였다. 대응책으로는 핵, 항공 분야를 본뜬 국제감독기구, AI 사용량에 비례한 ‘토큰세’, 돌봄을 비롯한 인간 전용 직군의 도입을 제안했다. 그가 열거한 위험은 고스란히 새로운 감독기구의 관할 대상이 됐다.
AI 업계가 위험을 알고도 침묵한다는 주장도 나왔다. 이를 공개적으로 인정하면 차기 1조 달러 규모의 투자 유치에 걸림돌이 될 수 있다는 이유에서다. 그러나 업계의 자율규제를 신뢰할 수 없다면, 규제 권한을 다른 주체에게 넘겨야 한다. 문제는 그 권한을 누가 가져야 하는지 아직 합의되지 않았다는 점이다.
위기 대응을 위해 부여한 비상권은 짧게 운용하고 흔적 없이 거둬들이는 것이 원칙이다. 현실은 달랐다. 위기 때 도입된 제한 조치는 위기가 끝난 뒤에도 통상적인 법체계에 남는 경우가 많았다. AI 위기에 대응한다는 명분으로 만들어질 제도 역시 일시적인 조치에 그치지 않을 가능성이 있다.
2027~2028년에 팬데믹에 버금가는 붕괴가 일어날 것이라고 경고한 미국의 한 경제학자는 코로나19 정책을 비판하고, 소속 의과대학에서 축출됐다는 논란으로 알려진 인물이다. 팬데믹 당시 형성된 담론의 대립 구도가 이제 AI 위기를 해석하는 틀로 이어지고 있는 셈이다.
그렇다고 파국론이 막연한 공포에만 기대는 것은 아니다. 현실의 수치도 이를 뒷받침한다. 2026년 미국에서는 AI와 자동화가 5개월 연속 감원의 가장 큰 사유로 꼽혔다. 기술 부문 감원은 7월까지 14만 9,023명에 달해 전년 같은 기간보다 67% 증가했다.
규제 권한의 이동은 기관 명칭에서도 드러난다. 미국 AI안전연구소는 2025년 ‘AI표준혁신센터’로 개편됐다. 새 기관은 AI의 안전성 자체보다 국가안보 평가와 국제표준 경쟁에 무게를 두었다.
반면 Anthropic은 정부의 결정을 기다리지 않았다. 자체 판단으로 Claude Opus 4에 ASL-3(회사가 정한 AI 안전 등급 중 3단계) 기준을 적용하고, 화학, 생물, 방사능, 핵무기와 관련된 위험 질의를 걸러내는 체계를 가동했다. AI 위험의 범위를 정하고 실제로 통제하는 권한은 이미 국가와 기업 사이에 나뉘어 있다. 결국 핵심 쟁점은 위험의 존재 여부만이 아니다. 누가 위험을 규정하고, 누구에게 통제 권한을 맡길 것인가가 더 근본적인 문제다.
칩 한 장에 새겨진 관할권
주권이 작동하는 물리적 단위가 영토에서 컴퓨팅 장비로 옮겨가고 있다. 2026년 3월, 미국 하원 외교위원회는 첨단 AI 칩에 위치 확인 기능을 의무화하는 칩보안법을 42대 0으로 통과시켰다. 수출된 칩이 어느 나라의 어느 서버 랙에 설치돼 있는지 지속적으로 추적해, 장치 한 대 단위로 관할권을 행사하려는 것이다.
통제는 수출 금지를 넘어 미국 정부의 수익원으로도 확장됐다. NVIDIA와 AMD는 2025년 중국에서 발생한 매출의 15%를 미국 정부에 내는 조건으로 수출 허가를 받았다. 이듬해에는 비슷한 성능의 칩에 25%의 관세가 추가됐다. H200과 MI325X의 수출 규제는 건별 심사 방식으로 완화됐지만, 중국 판매량은 미국 고객 대상 판매량의 절반 이하로 제한됐다.
이 과정에서 중국 시장의 판도도 크게 바뀌었다. NVIDIA의 점유율은 3년 만에 95%에서 약 8%로 급락한 반면, Huawei는 50~60%까지 올라섰다. 2026년 5월에는 NVIDIA의 중국 데이터센터 매출이 아예 발생하지 않았다. 수출통제가 상대국의 의존을 유지하기는커녕 자체 공급망 구축을 앞당긴 셈이다.
EU와 캐나다, UAE, 사우디아라비아는 국가 자금과 통신, 클라우드 사업자, NVIDIA GPU, 데이터 주권 조항을 결합해 대응하고 있다. EU는 AI 기가팩토리에 200억 유로를 투자했고, 캐나다는 관련 사업에 5년간 9억2,560만 달러를 배정했다. 정부 주도의 AI 모델 개발 사업도 2024년 말보다 두 배 이상 늘어 2026년 6월 기준 21개에 이르렀다.
다만 이러한 체계를 온전한 기술 주권이라고 보기는 어렵다. 핵심 칩의 공급량과 소프트웨어 라이선스를 외국 기업에 의존한 채 국내 운용 권한만 확보했다면, 그것은 독립적인 주권이라기보다 외부 조건에 따라 유지되는 사용권에 가깝다.
AI 스택으로 동맹을 재편하다
EU는 2021년 코로나19 백신을 수출할 때 사전 허가를 받도록 했다. 허가 여부는 수출 대상국의 접종률과 감염 상황, 그리고 상대국이 백신 수출에 협조하는지를 따져 결정했다. 오늘날 첨단 반도체 수출 통제도 비슷하다. 정부가 목적지와 물량을 심사해 예외를 허용한다. 백신에 적용됐던 선별적 공급의 논리가 이제 AI 모델과 반도체로 확장되고 있다.
국제 규범을 선점하려는 경쟁에서는 기구를 얼마나 빨리 출범시키느냐가 중요하다. 세계보건기구(WHO) 팬데믹협정은 병원체 접근과 이익 공유를 다루는 부속서가 완성되지 않아 아직 발효 절차에 들어가지 못했다. 관련 협상은 2026년 9월까지 계속된다. 반면 중국이 주도한 세계인공지능협력기구는 7월 상하이에서 29개국의 서명을 확보하고 본부 소재지까지 정했다. 조직을 먼저 갖춘 국가는 위기가 발생했을 때 국제 기준을 제안하고 논의를 주도할 가능성이 커진다.
미국은 하드웨어와 저장장치, AI 모델, 보안 기술, 응용 서비스를 하나의 패키지로 묶어 수출하려 한다. 정부가 지정한 컨소시엄에는 수출 허가 심사와 연방 금융 지원에서 우선권을 주는 한편, 중국 기술은 공급망에서 배제한다. 백신 공급을 통해 동맹을 관리하던 방식이 이제 ‘AI 스택’ 공급을 통한 동맹 관리로 바뀌고 있는 것이다.
미국 안에서는 ‘비상사태’라는 논리가 서로 반대되는 정책을 뒷받침한다. 연방정부는 에너지 비상사태와 긴급명령을 근거로 데이터센터의 인허가와 전력망 연결을 서두른다. 반면 뉴욕주는 50MW 이상 사업의 허가를 보류했고, 펜실베이니아주는 25MW 이상 사업에 별도의 전력망 요건을 부과했다. 연방정부는 주법에 대응할 소송 태스크포스를 구성하고 보조금까지 연계했다. 다만 아동 안전과 데이터센터 기반시설, 주정부 조달에 관한 규제는 연방정부의 선점 대상에서 제외했다. 결국 연방과 주의 권한 경계는 어떤 사안을 예외로 남겨두느냐에 따라 달라진다.
측정하는 자가 예외를 결정한다
컴퓨팅 자원 사용량을 기준으로 AI의 위험을 판단하면, 기술 효율이 높아질수록 규제 대상은 계속 늘어난다. DeepSeek R1처럼 적은 자원으로도 대형 모델에 가까운 성능을 내는 사례는 컴퓨팅 사용량이 곧 위험의 크기는 아니라는 점을 보여준다. 더 큰 문제는 규제의 임계값을 설계할 자료와 평가 인력이 대형 AI 기업에 집중돼 있다는 것이다. 이들 기업은 규제를 받으면서도 규칙을 만드는 데 영향력을 행사한다.
기업들은 ASL-3 같은 안전 기준을 직접 정하고 적용한다. 미국의 AI표준혁신센터 역시 산업계의 자발적 협력을 지원하는 동시에 국가안보 관련 평가를 담당한다. 이런 구조에서는 조약을 체결한 국가보다 위험을 측정할 장비와 자료를 가진 조직이 규칙에 더 큰 영향력을 행사할 수 있다.
EU의 선택도 같은 현실을 보여준다. EU는 2026년 7월 디지털 옴니버스를 통해 AI법의 고위험 시스템 관련 의무 시행을 각각 2027년 12월과 2028년 8월로 미뤘다. 산업계와 표준화기구, 적합성 평가 체계가 충분히 준비되지 않았기 때문이다. 반면 콘텐츠 투명성 의무는 2026년 8월부터 적용하고, 워터마킹 의무의 시행 시점도 같은 해 12월로 유지했다. 비용과 준비 부담이 큰 의무는 유예하되, 콘텐츠 표시 의무는 예정대로 시행하기로 한 것이다.
다른 분야에서도 규제 권한은 측정 능력과 결합할 때 비로소 작동한다. 백신 수출을 심사할 수 있었던 것은 접종률과 역학 자료가 있었기 때문이다. 칩의 위치를 규제하려면 장치가 어디에 있는지 확인할 기술이 필요하다. 따라서 주권은 단순히 규칙을 선언하는 권한만을 뜻하지 않는다. 무엇을 위험으로 볼지 정하고, 그 위험을 검증하며, 필요한 경우 예외와 면제를 허용할 수 있어야 한다. 중국행 칩의 판매 상한 설정, EU AI법의 시행 연기, 미국 연방 선점 조항의 예외 설정은 이러한 권력이 실제로 작동하는 방식이다.
국가가 자금과 GPU를 확보해 ‘주권 AI’를 추진하더라도 이 세 가지 권한이 없다면 사업은 조달 정책에 머물 가능성이 크다. 반대로 컴퓨팅 자원이 부족한 국가들도 국제기구를 구성하면 위험의 정의와 예외를 논의할 제도적 자리를 확보할 수 있다. 29개국이 참여한 국제기구 설립 움직임이 이를 보여준다.
다음 위기에서 국제질서를 결정하는 것은 국경선만이 아니다. 무엇을 위험으로 분류할 것인가, 그 위험을 누가 측정할 것인가, 누구에게 예외를 허용할 것인가가 새로운 권력의 경계를 그을 것이다.
출처
- Bill Gates sounds the alarm on an AI transition — Axios
- Bill Gates warns AI is more dangerous than the tech industry will admit — The Decoder
- Emergency Powers in the Time of Coronavirus…and Beyond — Just Security
- Activating ASL-3 protections — Anthropic
- Challenger Report: AI Leads For Fifth Straight Month — Challenger, Gray & Christmas
- House committee passes Chip Security Act — House Select Committee on the CCP
- Sovereign AI Index — CNAS
- WHO Member States continue negotiations on the PABS Annex — WHO
- American AI Exports Program — Federal Register
- EU AI Omnibus enters into force — White & Case
- Bigger Might Not Be Better — Tech Policy Press