샌더스, 고급 AI 개발 당장 중단 촉구…디샌티스 “어림없다”
샘 올트먼이 AI 편익을 위해 일부 나쁜 일을 받아들여야 한다고 말했다고 폴리티코가 4일(현지시간) 보도했다.
그는 이 입장을 경쟁사 앤트로픽과 다른 ‘가벼운 규제’의 핵심으로 제시했다. 발언이 공개된 뒤 버니 샌더스 상원의원과 론 디샌티스 플로리다 주지사가 잇달아 반박했다.
올트먼, 해킹·사기 제로 거래 거부
올트먼 오픈AI 최고경영자는 폴리티코의 새 테크 뉴스레터·팟캐스트 ‘디코디드’ 첫 회 인터뷰에 나섰다. 브렌던 보델론 기자가 앤트로픽과의 차이를 묻자, 그는 “우리 사이에는 상당한 간극이 있다”고 답한 뒤 이렇게 말했다.
우리는 이 기술의 편익과 사람들이 주도권을 갖기 위해 세계에 일부 나쁜 일이 일어나는 것을 받아들여야 한다고 믿는다.
— 샘 올트먼, 폴리티코 10월 4일 · “we believe that the world should accept some bad things happening for the benefits of this technology and people having the agency.”
폴리티코에 따르면, 올트먼은 중대한 해킹과 오용, 사기를 없애는 거래는 받지 않겠다고 말했다. “사람들이 나쁜 일보다 자릿수가 다를 만큼 더 많은 좋은 일을 할 것”이기 때문이라는 설명이다. 오픈AI가 주장하는 가벼운 규제 노선 역시, 사회가 회복력을 익히는 동안 일부 나쁜 일이 생긴다는 사실을 받아들이는 입장이다.
한 실험실이 기술을 독점한 뒤 편익을 배분하는 구도는 “완전히 받아들일 수 없는 거래”라고 그는 말했다. 안전 명분으로 규제를 과도하게 조이면 소수 기업이나 한 나라가 권력을 쥐는 쪽이 더 위험할 수 있다는 논리다. 더 버지에 따르면 그는 그 편익이 무엇인지 구체적으로 풀지 않았다.
자율 사이버공격이 가능한 모델에는 새 책임 틀이 필요하다는 점도 강조했다. 훈련 중 모델에 문제가 생기면 오픈AI가 책임질 부분이 있을 것이란 설명도 덧붙였다.
재앙적 위험에는 선을 그어
올트먼은 같은 인터뷰에서 ‘진짜 재앙적 위험’은 받아들이지 않는다고 선을 그었다. AI에 대한 ‘심각한 통제 상실’ 가능성이 그 예라는 것이다. 가속주의자들에게는 “이 미래로 성급히 뛰어들기 전에 조금은 신중하자”고 말했다.
폴리티코에 따르면 그는 최근 프론티어 모델 개발 속도를 늦추자는 앤트로픽 최고경영자 다리오 아모데이의 주장에 동의했다. 오픈AI는 주 단위 안전 법안과 의회 제3자 평가안도 지지해 왔다. 그런데도 비재앙적 해악을 어디까지 감수할지는 인터뷰에서 수치로 제시되지 않았다.
정치권, 누가 감수할지 되물어
디샌티스 주지사는 폴리티코 게시물을 인용해 “소수의 기술 과두들이 나머지를 대신해 그 결정을 내린다”며 “어림없다”고 말했다. 가디언에 따르면 플로리다주는 지난주 법원에 제3자가 승인한 안전 장치 없이 오픈AI가 새 모델을 개발하지 못하도록 임시금지를 청구했다. 청구서는 9월 28일 제출됐고, 피고에는 올트먼 개인도 포함됐다.
샌더스 상원의원은 5일 올트먼의 발언을 겨냥해 반박했다. 그는 일자리 수천만 개 상실·대규모 감시국가·아이들의 정신건강 위기·글로벌 금융위기·대량 멸종 같은 위험을 열거했다. 결과를 기다리지 말고 고급 AI 개발을 지금 당장 중단해야 한다고 촉구했다.
같은 보도에서 뉴욕대 명예교수 개리 마커스는 올트먼의 발언을 두고 “참으라, 그러면 우리가 부유하고 강력해진다”는 뜻이라고 말했다.
앤트로픽, 적용 범위로 반박
앤트로픽 대변인은 자사 규제안이 “프론티어 모델에만 적용된다”고 폴리티코에 답했다. 아모데이는 앞서 제안이 프론티어 기업을 늦추고 작은 경쟁자를 유리하게 만든다고 밝힌 바 있다.
의회가 이 발언을 계기로 별도 청문이나 서한을 내놓을지는 아직 정해지지 않았다.