콜게이트대 대담에서 시장 자율론 반박…규제 공백은 “최소 몇 년”
버락 오바마 전 미국 대통령이 18일(현지시간) 뉴욕주 해밀턴의 콜게이트대학교 대담에서 에이전틱 AI를 인터넷에 풀어놓는 이유를 암 치료나 에너지가 아니라 유료 상품과 기업 가치 정당화라고 말했다.
같은 주 도널드 트럼프 대통령이 AI 안전 우려를 ‘사기’로 규정한 뒤, 전직 대통령이 공개 석상에서 에이전틱 AI 배포를 기술 필수가 아니라 상업 선택으로 설명한 발언이다. 오바마는 항공·제약·식품처럼 시장 자율에만 맡길 수 없다고 주장했다.
오바마, 에이전틱 AI를 유료 상품과 연결
행사는 커슈너 패밀리 시리즈의 일환으로 샌퍼드 필드하우스에서 열렸다. 콜게이트 마룬뉴스에 따르면 청중은 4,195명이었고, 브라이언 케이시 총장이 사회를 맡았다.
케이시 총장이 AI에 대한 민주적 대응을 묻자 오바마는 암 치료와 에너지 개선만으로도 AI를 쓸 수 있다고 말했다. 그런 목적에는 에이전틱 AI를 인터넷에 풀어놓을 필요가 없다고 했다.
에이전틱 AI는 질문에 답하는 데 그치지 않고 도구를 골라 쓰고, 코드를 실행하며, 작업을 스스로 이어가는 시스템을 가리킨다. 오바마는 그 배포가 사회가 필요로 하는 연구와 어긋난다고 규정했다.
사회가 필요로 하는 것과 기업이 마주한 상업적 요청 사이의 어긋남이다. 반드시 나쁜 일을 하려는 것은 아니지만, 그 가치 평가를 정당화해야 하기 때문이다.
— 버락 오바마 전 대통령, MeidasTouch 9월 18일 · “That’s a misalignment between what our society needs and the commercial imperatives that these companies are facing, not because necessarily they’re trying to do bad things, but because they’ve got to justify these valuations.”
오바마는 유권자가 이 문제를 살펴야 하며, 대응 계획이 없는 후보는 이 순간에 맞지 않으니 다른 사람을 찾는 편이 낫다고 말했다.
오바마 “항공·제약처럼 시장에 맡기지 않는다”
오바마는 “정부가 이것을 규제해야 한다”고 CNN에 보도된 대담에서 말했다. 그는 트럼프 대통령의 주요 보좌관이 “시장이 알아서 한다”는 논리를 폈다고 전했다.
그 논리의 골자는 이렇다. 기업은 소송과 재무 책임을 피하려고 안전을 풀고, 위험하면 이용자가 고소하면 된다는 것이다. 오바마는 그 답을 항공·제약·식품에는 적용하지 않는다고 반박했다.
항공사를 그렇게 다루지 않는다. 제약회사나 식품회사도 마찬가지다.
— 버락 오바마 전 대통령, 미디어이트 9월 19일 · “That’s not how we treat airlines! Or drug companies, or food companies.”
시러큐스닷컴에 따르면 오바마는 살인 로봇보다 “나쁜 인간”의 오용을 더 심각하게 봤다. 홈디포에서 산 재료로 천연두 변종을 설계하거나, 불법이어도 상관없으니 수익률을 극대화하라는 지시는 주식시장을 무너뜨릴 수 있다고 말했다.
모델이 스스로 성능을 높이다 사람 말을 듣지 않게 되는 경우도 같은 위험에 둔다고 했다. 그는 AI를 “놀라운 기술”이라고 부르면서도, 가드레일 없이는 “심각한 장난”이 난다고 말했다.
트럼프, 같은 주 안전 우려를 사기로 규정
트럼프 대통령은 14일 트루스소셜에서 AI가 세계를 장악하고 인류를 파괴한다는 주장을 “사기(HOAX)”라고 규정했다. “AI에 필요한 유일한 가드레일은 강하고 똑똑한 대통령”이라고 썼다.
백악관 과학기술자문위원회 공동의장인 데이비드 색스는 같은 주 인터뷰에서 안전의 일차 책임은 개발사에 있다고 말했다. 앞서 그는 제품 책임 소송과 시장 징계가 이미 예측 불가능한 모델을 벌한다고 주장했다.
오바마가 대담에서 인용한 “시장이 알아서 한다”는 논리는 그 줄과 맞닿아 있다. 색스는 실험실이 위험을 통제하지 못하면 개발을 멈추고 자리를 비우라고 했고, 공포를 퍼뜨리며 규제를 요구하는 방식은 안 된다고 했다.
오바마는 현 대통령이 규제 논의를 “패배자나 하는 일”로 본다고 전했다. 미디어이트가 옮긴 그 문장 뒤에 그는 “능력도, 의지도 없는—둘 다라고 본다—행정부”와 “최소 몇 년의 공백”을 붙였다.
오바마, 당분간 업계 자제를 임시 수단으로 둠
오바마는 그 공백 동안 선도 기업의 자발적 속도 조절을 장려해야 한다고 말했다. 대체재가 아니라 의회와 백악관이 진지해질 때까지 지금 할 수 있는 최선이라고 시러큐스닷컴은 전했다.
주 단위 규제는 시도되겠지만 주마다 하기는 어렵다고 했다. 연방 틀이 없는 동안 규칙의 단위와 적용 범위는 기업과 주 정부가 각자 정하는 상태가 이어진다.
오는 11월 3일 중간선거가 그 공백의 첫 일정이다. 오바마는 유권자에게 AI 계획을 따져보라고 했고, 계획이 없는 후보는 이 순간에 맞지 않는다고 말했다.