킬스위치만으론 부족…자율규제로는 안 된다
빌 게이츠가 AI가 10억 사망 사건을 유발할 만큼 강력하다며 킬스위치만으론 부족하다고 27일(현지시간) NBC에서 밝혔다.
그에 따르면 업계 자율규제로는 안 되며, 의회가 안전장치와 감시를 의무화해야 한다. 입법 필요성에는 “절대적으로”라고 답했다. 장치를 대규모 공격 전에 넣을지 그 뒤에 넣을지는 선택의 문제다.
악의적 이용이 당장 위협
마이크로소프트 공동창업자인 게이츠는 NBC ‘미트 더 프레스’에서 AI가 인류를 끝낼 수 있느냐는 질문에 수치로 답했다. 100%에 이르기는 어렵지만, 악의적 의도와 최신 AI 도구의 결합만큼 강력한 무기는 없다.
AI는 10억 명의 사망으로 이어질 사건을 일으킬 만큼 확실히 강력하다.
— 빌 게이츠, NBC News 9월 25일 · “AI is certainly powerful enough to drive events that, you know, cause a billion deaths”
지금 가장 위험한 것은 악의적 의도가 AI로 사기를 치거나 전력망을 끊고 은행 계좌를 뒤섞는 일이라고 그는 이어갔다. 과거에는 강대국만 하던 사이버·생물 테러를 소규모 집단도 할 수 있게 됐다고 같은 방송 보도는 전했다.
업계가 거의 자기 이익에 반해 위험을 인정하는 논의는 반길 만하다. 문제는 나머지 세계가 이를 깎아내리거나 국가 간 경쟁으로만 본다는 점이다. 이 기술을 어떤 모습으로 만들지 생각하는 이들이 모두 모이지 않는 현실이 두렵다는 것이다.
킬스위치만으론 비극 못 막아
의회에는 위험 상황 때 AI 서비스를 즉시 중단시키는 킬스위치 의무화안이 올라와 있다. 진행자 크리스틴 웰커가 현실성을 묻자 게이츠는 반대하지는 않으면서도 한계를 짚었다.
킬스위치만 있는 것으로는 부족하다.
— 빌 게이츠, NBC 미트 더 프레스 9월 27일 · “It’s not enough to have a kill switch”
그는 킬스위치를 “좀 이상한 얘기”라고 불렀다. AI가 아직 컴퓨터를 스스로 장악해 끌 수 없는 단계는 아니라며, 그런 논의 자체를 비기술적이라고 봤다. 나쁜 행위를 억제하려면 무엇이 이뤄지는지에 대한 통찰과 기록이 필요하다는 것이다.
정교한 모델을 감시하고 정확히 무엇을 하는지 남겨야 한다. 사기나 송전 차단 사건에 법집행이 불려가더라도, 감시와 안전장치가 AI에 심어져 있지 않으면 내부를 볼 힘이 없다. 속도를 늦출지 여부는 별도 논쟁이고, 감시층을 넣는 선택은 지금도 가능하다.
자율규제 거부하고 입법 요구
웰커가 워싱턴에서 입법이 필요하냐고 묻자, 그는 법집행 기관과 정치인이 안전장치·감시의 모습을 정하는 논의에 들어와야 한다고 답했다. 그것이 의무여야 하며 업계에는 약간의 부담이 되겠지만, 속도를 크게 늦추지는 않을 것이라고 봤다. 자율규제만으로 충분하다고 생각하는 사람은 아무도 없다고 선을 그었다.
지금 당장 안전장치를 넣어야 하느냐는 물음에는 세상에서 가장 뻔한 일이라고 답했다. 그는 8월 말 게이츠노트에 AI 전환을 위한 계획이 없다고 쓴 뒤, 이번 인터뷰에서는 감시를 넣지 않는 상태를 완전히 무책임하다고 규정했다.
그에 따르면 각 연구소에서 AI가 무엇을 하는지 지켜보는 감시가 핵심이다. 사이버 공격용인지, 생물 테러용인지 가려내는 감시·단속 층은 만들 수 있다. 정부가 안전장치를 요구하지 않으면 큰 부정적 결과가 잇따를 것이라고도 경고했다.
중국 경쟁론에도 규제 가능 반박
도널드 트럼프 대통령이 AI 위험 경고를 ‘사기’라고 한 데 대해 게이츠는 “전혀 사기가 아니다”라고 말했다. 처음 반응이 그랬더라도 설명을 들으면 합의에 이를 수 있다고 봤다. 안전장치가 국가 간 경쟁에서 미국에 불리하지 않다는 점을 자신과 다른 이들이 전하면 된다는 것이다.
중국이 안전장치를 두지 않을 것이라는 주장에도 동의하지 않았다. 모든 나라가 안전장치를 원할 것이고, 미국이 하면 중국도 하려 할 것이라고 블룸버그가 전했다. 정교한 모델을 감시·기록하는 일은 미국이 확실히 해야 하며, 중국도 그렇게 하려 할 것이다.
글로벌 AI 합의는 냉전 시대 핵무기 협상보다 더 어려울 수 있다. 2차 대전 이후 항공 안전·오존층·핵무기처럼 미국이 우호국과 함께 규칙을 만든 전례를 들어, 인류 공동 과제로 돌아가야 한다고 강조했다. 끔찍한 사건이 나면 긴박감은 커지겠지만, 안전장치 논의를 병행해야 더 일찍 장치를 넣을 수 있다고 봤다. 의회 킬스위치 법안 처리와 백악관 기조 변화 여부는 아직 정해지지 않았다.