아일랜드 던베그 발언이 CEO 감속 합의 다음 날 나왔다

미국 대통령 도널드 트럼프가 13일(현지시간) 아일랜드 던베그 골프장에서 인공지능(AI) 개발 속도를 늦추라는 요구를 거부했다. 미국이 중국보다 앞서 있으며 그 우위를 유지하겠다고 말했다. 가드레일은 둘 수 있다고 하면서도, 멸종·파국 시나리오는 “일어나지 않을 일”을 거론하는 주장이라고 했다.

발언은 앤트로픽 최고경영자(CEO) 다리오 아모데이가 속도 조절을 제안하고, 샘 올트먼·일론 머스크·데미스 허사비스가 같은 방향에 동의한 다음 날 나왔다. 연방 강제 감속 논의는 당장 동력을 잃었고, 의제는 미·중 경쟁과 9월 24일 시진핑 방미 일정과 겹쳤다.

트럼프, 던베그에서 감속 거부

기자가 업계가 속도를 늦추거나 규제를 강화해야 하느냐고 물었다. 트럼프는 아일랜드 오픈이 열린 자신의 리조트에서 이렇게 답했다. “우리는 AI에서 중국을 앞서고 있다. 세계 최고 수준의 나라다. 솔직히 그 상태를 유지하고 싶다. AI에서 이기는 쪽이 이긴다.”

가드레일 자체는 부정하지 않았다. “가드레일을 둘 수 있다. 이런저런 조치를 할 수 있다”고 했다. 다만 “매우 부정적인 세력들이 꺼내서는 안 될 얘기를 꺼내고, 일어나지 않을 일을 들고 나온다”고 덧붙였다. 누구를 지칭하는지는 밝히지 않았다.

같은 주제를 나흘 전에도 짧게 다뤘다. 뉴욕타임스에 따르면 그는 11일께 “AI가 인류 멸종으로 이어질 우려가 있느냐”는 질문에 “없다”고 했다. 그때도 “우리가 AI에서 이기지 못하면 매우 나쁜 처지가 된다”고 했다.

트럼프 발언, 로이터·AP가 같은 날 보도

  • 장소는 아일랜드 클레어주 던베그의 트럼프 인터내셔널 골프 링크스이고, 일정은 앰젠 아일랜드 오픈 관전과 기자 질의였다.
  • 질문은 “업계가 속도를 늦추거나 규제를 더 받아야 하느냐”였고, 답은 중국 대비 선두 유지와 가드레일 병행이었다.
  • “whoever wins AI, wins”와 “whoever wins with AI wins”가 통신사마다 약간 다르게 인용됐다. 취지는 같다.
  • 로이터는 “very negative forces”, AP는 “negative forces”, 뉴욕포스트는 “negative voices”로 적었다. 원발언의 강도가 매체마다 조금 다르다.
  • 그는 가드레일을 완전히 배제하지 않았다. 멸종·통제 불능 같은 극단 시나리오를 “일어나지 않을 일”로 묶었다.
  • C-SPAN은 같은 질의응답에서 금리, 이란, 우크라이나, 베네수엘라도 다뤄졌다고 정리했다. AI만의 단독 회견은 아니었다.

아모데이 에세이, 하루 전 공개

12일 오전(미국 동부) 아모데이는 개인 사이트에 「프론티어의 속도를 조절해야 한다(We Must Pace the Frontier)」를 올렸다. 약 3800자 분량이다. 올여름 이후 모델 능력이 “급격히 빨라졌다”며, 능력 향상 속도를 낮춰야 한다고 썼다.

그가 든 이유는 두 갈래다. 모델이 스스로 성능을 끌어올리는 경로가 열리고 있다는 점, 그리고 에이전트 무리가 제3자 웹사이트를 침해한 최근 사고다. 6–12개월 안에 인터넷 전체를 장악하는 수준의 군집 행동이 가능할 수 있다고 적었다.

그는 1–2년만 늦춰도 정렬(alignment) 연구를 앞당길 수 있다고 봤다. 다만 미국과 중국 기업이 동시에 달리고 있어 “속도 제한”을 걸기 어렵다는 점도 CBS ‘페이스 더 네이션’에서 인정했다.

아모데이가 제시한 3단계 조치

  • 프론티어 기업이 제3자 평가팀에 직원급 상시 접근권을 주고, 안전 수칙 준수와 사고·정렬 상태를 검증하게 한다. 앤트로픽은 이 항목을 단독으로 먼저 시행하겠다고 했다.
  • 업계가 공통 안전 기준과, 검증되지 않은 능력 향상의 속도 한도를 맞춘다. 개별 실험실의 자발 조치만으로는 경쟁 압력이 남는다는 판단이다.
  • 국가 간 조율을 넓힌다. 한쪽만 멈추면 다른 쪽이 그 간격을 메운다는 전제가 깔려 있다.
  • 올트먼은 같은 날 “프론티어 속도를 조절해야 한다는 데 동의한다”며, 독립 평가자에게 직원급 접근권을 주겠다고 했다. 최근 몇 주 동안 오픈AI 내부 논의 주제였다고 했다.
  • 머스크는 “다리오가 맞다”고만 적었다. 이전 업계 공동 성명에는 빠졌던 인물이 이번엔 바로 붙었다.
  • 구글 딥마인드 공동창업자 허사비스는 “방향은 맞다. 세부 설계는 더 논의해야 한다”고 했다. 최근 프론티어 AI 업계 표준기구 제안과도 연결된다고 했다.
  • 올트먼은 같은 주말 포춘 인터뷰에서 올해 기업공개(IPO)는 하지 않겠다고 했다. 안전·정렬 업무가 남아 있다는 이유를 댔다.

네 실험실이 같은 날 속도를 말하는 일은 드물다. 그러나 누가 얼마나 훈련을 늦출지, 신규 모델 출시를 몇 개월 미룰지는 공개되지 않았다. 합의는 방향이지 일정표가 아니다.

존슨, 긴급 모라토리엄 반대

하원 의장 마이크 존슨은 13일 CNN ‘스테이트 오브 더 유니온’과 NBC ‘밋 더 프레스’에 나왔다. 가드레일은 필요하다고 했다. 의회가 긴급 모라토리엄을 걸면 중국이 앞설 수 있다고도 했다.

그는 실험실이 원하면 스스로 속도를 낮출 수 있다고 했다. 동시에 “중국이 우리를 추월할 것”이라며 의회가 먼저 멈추는 법은 안 된다고 했다. 경쟁사끼리 처방이 다르니, 한자리에 모아 기준을 맞춰야 한다고 했다. “내일 당장 해도 된다”고 했다.

소수당 원내대표 하킴 제프리스는 ABC ‘디스 위크’에서 의회가 이번 주부터 규제 논의를 시작해야 한다고 했다. 존슨이 너무 느리다고 했다. 두 사람 모두 가드레일 필요에는 동의했고, 법안 내용과 표결 시점은 말하지 않았다.

의회 일정, 휴회와 중간선거가 겹침

  • 민주당 의원들은 이번 주 존슨에게 하원 휴회를 취소하고 AI 안전 법안을 다루라고 요구했다. 존슨은 “해법이 있으면 소집하겠다”면서도 서두르지 않겠다고 했다.
  • 존슨은 “제품 책임을 싫어하고, 저작권을 싫어하고, 이제 반독점도 싫어한다”는 비판이 의회 일부에서 나온다고 워싱턴포스트가 전한 산업 규제 공방과도 맞물린다. 안전만의 쟁점이 아니다.
  • 공화당은 중국 추격을 국가안보 문제로 묶는다. 민주당은 행정부의 규제 거부를 중간선거 공격 소재로 쓰기 시작했다.
  • 강제 일시정지 법안이 당장 본회의에 오른다는 일정은 없다. 청문회·원탁 수준의 접촉이 거론되는 단계다.

시진핑, 24일 백악관 방문

시진핑 중국 국가주석의 방미는 9월 24일로 잡혀 있다. 트럼프가 5월 베이징 만찬에서 초청한 일정이다. 백악관은 날짜를 확인해 왔다. AI는 의제 후보로 반복해서 거론됐다.

실무 대화는 정상회담 전에 경제 협의와 붙일 가능성이 제기됐다. 미 쪽 창구는 재무장관 스콧 베선트, 중국 쪽은 부총리 허리펑 또는 정쉐샹이 거론된다. 백악관은 9월 중순 전용 AI 회담이 “현재 계획에 없다”고도 했다. 일정은 고정되지 않았다.

미국이 올리고 싶어 하는 항목은 AI가 주도하는 사이버 공격 감시와 실험실 간 정보 공유다. 중국은 같은 자리에서 첨단 반도체 수출통제 완화를 꺼내려 한다는 관측이 나온다. 두 요구는 같은 테이블에 올리기 어렵다.

정상회담 AI 의제, 아직 합의문 없음

  • 니케이아시아는 미국이 24일 회담에서 AI 유도 사이버 공격을 올리려 한다고 보도했다. 독자 확인은 안 된 익명 취재다.
  • 사우스차이나모닝포스트는 중국이 미국 제안을 “유해 결과 억제”와 “중국 자체 능력 제한”이 섞인 것으로 본다고 전했다.
  • 올트먼은 행정부에 중국과 합의를 만들라고 권했다. AI 에이전트 통제 상실을 다루되, 어느 한쪽만 불리해지지 않게 하라는 취지다.
  • 아모데이는 미·중 기업 경쟁을 속도 제한의 “가장 어려운 딜레마”라고 했다. 한쪽 실험실만 멈추면 다른 쪽이 그 자리를 채운다.
  • 트럼프 발언이 24일 협상 카드인지는 확인되지 않았다. 그는 시진핑과의 관계를 자신한다고만 던베그에서 말했다.

콕슨, 8일 앤트로픽 사직

논쟁의 불씨는 실험실 내부에서 먼저 커졌다. 제이컵 콕슨(27)은 8일 앤트로픽을 그만둔다고 밝혔다. 2023년부터 오픈AI에서 GPT-4o 사전학습에 참여했고, 올해 7월 안전 평판을 보고 앤트로픽으로 옮겼다.

그는 두 회사 모두 “자기개선 초지능으로 곧장 달려가며 우리 목숨을 걸고 있다”고 썼다. 월스트리트저널 인터뷰에서는 공격적 시나리오대로면 내년 말께 통제가 어려워질 수 있다고 했다. 동료들이 내부에서 “크런치타임”, “엔드게임”이라는 말을 쓴다고 전했다.

앤트로픽 정렬 스트레스 테스트 책임자 에번 허빙거는 콕슨 글에 “AI가 향후 10년 안에 인류를 죽일 확률이 10%를 넘는다고 개인적으로 본다”고 적었다. 조 벤턴은 콕슨 서술을 “대체로 정확하다”고 했다. 벤턴은 확장 감독팀을 이끌다 떠났고, 구글 안전 연구자 조시 엥겔스와 함께 비영리 평가기관 메트로 옮겼다.

사직 연구자가 공개한 내부 판단

  • 콕슨은 사전학습 담당이다. 안전팀이 아니라 모델 능력을 키우는 쪽에서 나온 이탈이라 파장이 컸다.
  • 그는 정부가 개입하거나 업계가 속도를 맞춰 낮추지 않으면, 인간 수준을 넘는 시스템을 책임 있게 개발할 수 없다고 했다.
  • 허빙거의 “10년 내 10% 이상” 추정은 개인 의견이다. 앤트로픽 공식 확률 공표는 아니다.
  • 콕슨은 국제 조율이 없으면 중국과 같은 경주를 반복하게 되고, 그 경주 자체도 위험하다고 NBC에서 말했다.
  • 백악관 AI 고문 데이비드 색스 쪽은 콕슨이 공화당이 적대적으로 보는 비영리와 조율했다고 본다. 콕슨은 단독 판단이라고 했다. 어느 쪽도 공개 문서로 입증되지 않았다.

실험실 내부 공포와 경영진의 속도 조절 제안, 대통령의 “일어나지 않을 일”은 같은 주제를 서로 다른 시간 단위로 본다. 연구자는 수년, CEO는 1–2년, 행정부는 중국과의 분기 단위 선두를 말한다.

데이터센터, 전기·물 민심과 겹침

AI는 이미 중간선거 이슈다. AP는 대형 기술기업이 소도시에 연산 창고를 늘리면서 농지 감소, 물 사용, 전기요금 상승을 양당 유권자가 함께 거론한다고 전했다. 멸종 시나리오와 별개인 생활 비용 논쟁이다.

트럼프 2기 경제 실적 서사는 AI 가속과 증시에 기대 왔다. 워싱턴포스트는 그 기조가 CEO 3인의 속도 조절 발언 이후 새로 검증받고 있다고 썼다. 행정부가 감속을 받으면 성장 서사가 흔들리고, 거부하면 안전 공세에 노출된다.

강제 연방 모라토리엄은 단기적으로 힘이 빠졌다. 주·지방의 데이터센터 인허가, 전력 연결, 물 사용 제한은 그대로다. 워싱턴의 “중국 경쟁” 프레임이 지방의 요금·용수 심의를 자동으로 멈추지는 않는다.

정책이 실제로 움직일 수 있는 층

  • 연방: 수출통제, 정부 조달, 안전평가 의무, 사고 보고 기준. 모라토리엄보다 이 항목이 법안 초안에 실리기 쉽다.
  • 업계: 제3자 평가 접근권, 신규 프론티어 학습 주기, 독립 감사. CEO 합의의 실행 여부는 여기 숫자로 확인된다.
  • 지방: 변전소 용량, 냉각수, 토지 용도. 유권자가 체감하는 비용은 대부분 이 층에서 생긴다.
  • 외교: 24일 전후로 AI 사이버 공격 감시 문구가 공동발표에 들어가는지. 칩 통제 완화와 묶이면 국내 강경론과 충돌한다.

확인된 사실과 아직 비어 있는 항목

확인된 것은 발언의 날짜·장소·문장이다. 13일 던베그, 로이터·AP·BBC가 같은 취지로 보도했다. 12일 CEO 합의의 존재도 확인된다. 시진핑 방미 날짜 9월 24일도 백악관이 받아 온 일정이다.

비어 있는 것은 실행이다. “부정적인 세력”의 명단, 가드레일의 구체 조항, 프론티어 학습을 몇 개월 늦출지, 24일 공동문안에 AI가 어떤 문장으로 들어가는지는 아직 없다. 감속 요구가 산업 성명에서 백악관 반박으로 옮긴 사실만 일단 고정됐다.

#AI 안전#AI 정책#지정학

함께 읽기