백악관 자율 합의 “충분치 않다”…영국 AISI 지목
마이크로소프트 사장이 AI가 우유·세탁기보다 안전 규제가 적다며 글로벌 규칙을 촉구했다고 BBC가 12일(현지시간) 보도했다.
브래드 스미스 사장은 지난달 말 백악관에서 나온 ‘도덕적으로 구속력 있는’ 자율 합의로는 더는 부족하다며 법적 의무가 필요하다고 말했다. 도널드 트럼프 대통령은 업계가 스스로 규제해야 미국 기업이 중국에 뒤처지지 않는다고 밝혀 왔다.
스미스가 일상제품과 규제를 비교
BBC 빅 보스 인터뷰 팟캐스트에서 스미스 사장은 AI를 “도구이자 무기”라고 불렀다. 그는 규제를 “오늘 시작하자”고 했다.
지금 당장 세탁기는 AI보다 더 많은 안전 규칙을 적용받는다. 식료품점에서 보는 우유 팩마다 안전 규칙과 검사가 따른다.
— 브래드 스미스, BBC 10월 12일 · “Right now, your washing machine is subject to more safety rules than AI. Every carton of milk that you see in the grocery store is subject to safety rules and inspection.”
“우리는 다른 제품에서 이를 하는 법을 안다.” 이어 “그 지식을 쌓아 AI에 어떻게 적용할지 생각해야 한다”고 말했다. 사람 손을 벗어난 AI 에이전트와, 세계 사이버 안보를 위협할 만큼 강력한 모델을 함께 거론했다. 그 대목에서 “그 순간이 왔다”고 했다.
스미스가 킬 스위치 법제화를 요구
제안은 네 갈래다. 기업이 통제를 잃은 AI를 멈추거나 늦출 “긴급 브레이크”를 갖춰야 한다. 업계에서는 이를 킬 스위치라고 부른다. 독립적인 정부 평가자가 신제품을 출시 전에 승인을 내줄 시점도 규칙으로 정해야 한다.
AI 에이전트(목표를 따라 스스로 움직이는 소프트웨어)가 외부 시스템을 침범하면 “피해자”에게 알릴 법적 의무를 넣자고 했다. 사고가 나면 기업이 사고 보고서를 쓰도록 법으로 강제해야 한다는 요구가 이어졌다. 네 가지는 모두 제품 안전에서 이미 쓰는 장치를 AI에 옮기자는 제안이다.
백악관 자율 합의는 불충분하다
9월 29일 트럼프 대통령은 오픈AI·앤트로픽·구글·엔비디아·메타·xAI 경영진과 자율 합의에 서명했다. 대통령은 문서를 “도덕적으로 구속력이 있다”고 불렀다. 기업은 내부 통제와 독립 감사인으로 모델이 의도대로 작동하는지 점검하기로 했다. 시스템이 의도하지 않은 방식으로 기술 체계에 침투하거나 해킹하지 않도록 막는 내용도 담겼다. 법적 처벌 조항은 없다.
스미스 사장은 합의를 환영하며 마이크로소프트도 “기꺼이 서명한다”고 했다.
좋은 조치이고 필요한 조치다. 하지만 이제는 충분치 않다고 생각한다.
— 브래드 스미스, BBC 10월 12일 · “It’s a good step, it’s a necessary step. But I don’t think it’s sufficient any longer.”
“좋은 회사는 원하는 대로 한다.” 이어 “걱정해야 할 쪽은 그만큼 책임지지 않는 회사들”이라고 했다.
영국 연구소에 선도 역할을 맡겨
스미스 사장은 글로벌 규칙을 이끌 나라로 영국을 꼽았다. 전 총리 리시 수낵 정부에서 출범한 AI 안보연구소(AISI) 때문이다. 연구소는 첨단 AI가 국가 안보와 공공 안전에 미치는 위험을 정부가 과학적으로 파악하도록 돕는 일을 한다. 기술 업계에서 이 기술 역량을 누가 앞서느냐는 물음에 “매우 간단하다. 영국이다. 그들이 최고다”라고 했다.
워싱턴은 브뤼셀을 보는 눈으로 런던을 보지 않으며, 그게 강점이라고도 했다. 유럽연합은 위험 수준에 따라 AI법으로 규제한다. 스미스 사장은 미국이 영국 주도의 기준을 유럽연합 규제만큼 거부하지는 않을 것으로 봤다. 차분하되 단호한 목소리로 사람들을 모으는 역할을 영국과 회사가 맡기를 바란다고 했다.
로이터에 따르면 영국 연구소는 주요 AI 모델과 맺은 자발적 합의로 배포 전 접근권을 받아 능력과 위험을 평가한다. 카니슈카 나라얀 영국 AI 장관은 현행 체계가 부족하면 고도 모델 규제를 검토하겠다고 밝혔다.