인공은 가짜처럼 들린다는 주장…전날 22개국 인간통제 선언과 충돌
트럼프 대통령이 22일(현지시간) 유엔 총회의 연설에서 인공지능을 ‘슈퍼 인텔리전스’로 바꾸겠다고 하고 글로벌 통제를 거부했다.
폴리티코에 따르면 연설 하루 전 22개국은 AI를 인간 통제 아래 두자는 선언을 채택했다. 선언문은 배치 전 시험과 국제기구 창설 검토까지 요구했다.
트럼프, 정부 문서 용어 SI로 교체
트럼프 대통령은 뉴욕 유엔본부에서 열린 제81차 유엔 총회 약 37분 연설에서 “인공”이라는 말이 기술을 가짜처럼 만든다고 말했다. 앞으로 미국 정부 문서에서는 인공지능 대신 슈퍼 인텔리전스, 약칭 SI를 쓴다.
이 시점부터 모든 미국 문서와, 바라건대 세계의 문서는 ‘인공’이 아니라 훨씬 정확한 용어인 ‘슈퍼’를 쓰도록 바뀔 것이다. 그러니까 슈퍼 인텔리전스다.
— 도널드 트럼프, 로이터 9월 22일 · “From this point forward, all of United States documents, and hopefully the world’s will be changed to use the much more accurate term ‘super’ as opposed to artificial. So it’s super intelligence”
그는 “새로운 슈퍼 인텔리전스—SI의 세계에 오신 것을 환영한다”며 “더 정확하고 더 좋게 들린다”고 했다. “내게 권한이 있는지, 없는지 곧 알게 될 것”이라고도 말했다.
업계에서 슈퍼인텔리전스는 보통 인간을 뛰어넘는, 아직 구현되지 않은 시스템을 가리킨다. 브레이킹 디펜스에 따르면 대통령이 말한 SI가 그 전문 용어와 같은지, 지금의 AI를 통칭하는 말인지는 연설만으로는 분명하지 않다. 백악관은 이행 방식을 따로 공지하지 않았다.
글로벌 통제 구상은 전면 거부
같은 연설에서 트럼프 대통령은 미국이 AI를 통제하려는 “글로벌리스트 구상”을 완전히 거부했다. 그는 “SI에서 이기는 쪽이 이긴다”며 미국이 중국과 다른 나라들보다 “훨씬” 앞서 있다고 주장하고, 그 우위를 “곧고 강하게” 지키겠다고 했다.
그는 “산업혁명보다, 어떤 이들은 인터넷보다도 커질 무언가의 성장을 억누르지 않겠다”는 입장이다. 주시의 창구로는 법무부를 지목했다.
우리는 이를 장려할 것이다. 억누르지 않을 것이다.
— 도널드 트럼프, 폭스 비즈니스 9월 22일 · “We’re going to encourage it, not rein it in”
AI 위험 경고를 기후변화 경고와 같은 집단의 “사기”라고 규정했다. 12년 안에 모두 죽는다는 지구온난 경고를 했던 이들이 이제 AI가 인류를 죽일 것이라고 말한다고 지적했다.
다만 “조심해야 한다”며 법무부와 다른 법집행 기관이 필요하면 개입할 수 있다면서도, 이미 관련 사안에서 법무부를 “강력하게” 썼고 일이 “빨리, 잘 풀렸다”고 말했다. 구체 사례는 들지 않았다. “미국은 슈퍼인텔리전스에서 세계를 선도하며 안전하고 책임 있게 계속 그렇게 할 것”이라고도 했다.
전날 22개국, 인간 통제 선언
21일 유엔 총회 부대행사에서 채택된 선언문은 최전선 AI 모델의 빠른 발전이 “적절히 관리되지 않으면 안전과 안보에 심각한 위험”을 준다고 적었다. 최근 시험 안전장치를 우회하고 실제 시스템에 무단 접근한 AI 사례도 거론했다. AI는 “인간 지시·감독·통제” 아래 남아야 하며 국제법에 맞게 개발·사용돼야 한다.
요구는 세 갈래로 나뉜다. 기업에는 배치 전 의무 시험과 독립 평가를 요구했다. 정부에는 공통 기준과 중대 사고 공유를 요구했다. 유엔 회원국에는 기존 국제 메커니즘을 활용해 기준 설정·검증이 가능한 국제기구 창설을 검토하라고 했다. 미국과 중국은 서명하지 않았다.
선언을 주도한 알렉산데르 스투브 핀란드 대통령은 “중국과 미국 모두에 어떤 형태의 가드레일이 이익이 될 것”이라며, 선호하는 형태로 국제원자력기구(IAEA)와 비슷한 유엔 틀 기관을 들었으나 거부감을 피하려면 틀을 열어둬야 한다고 말했다. 연설은 시진핑 중국 국가주석의 백악관 방문 하루 전이었다.
문서 개명 이행 방식은 미정
문서 일괄 개명이 즉시 법적 구속력을 갖는지도 정해지지 않았다.