엔비디아·메타 "새 AI 법 불필요"

드림포스에서 시장 규율 강조, 랩의 페이싱 요구와 정면 충돌

엔비디아 최고경영자 젠슨 황은 9월 15일(현지) 샌프란시스코 세일즈포스 드림포스 본무대에서 “새 법은 필요 없다. 새 규제도 필요 없다”고 말했다. 같은 날 CNBC 인터뷰에서는 랩들이 안전을 위해 반독점 면제까지 받아야 한다는 주장을 “완전히 불필요하다”고 했다.

메타 최고경영자 마크 저커버그는 같은 날 랩마다 안전한 학습 속도를 스스로 정할 유인과 책임이 있다고 밝혔다. 정렬(alignment)이 경쟁 우위가 될 것이라고도 했다. 주말 앤트로픽 최고경영자 다리오 아모데이의 ‘프론티어 페이싱’ 에세이, 오픈AI·일부 랩의 동조, 트럼프 대통령의 감속 거부 발언과 같은 주에 겹쳤다.

논점은 새 특별법이냐, 기존 제품 책임·시장 압력이냐로 좁혀졌다. 칩 공급자와 모델 개발사, 백악관과 의회의 입장이 한 줄로 모이지 않는다.

황 대표, 드림포스에서 신규 법 거부

황 대표는 마크 베니오프 세일즈포스 최고경영자와 대담에서 안전을 최우선이라고 하면서도 공학 문제로 규정했다. AI를 ‘외계 지능’이 아니라 인간이 만든 하드웨어와 소프트웨어로 봤다. 확신이 없으면 출시하지 않으면 되고, 시장이 이미 그 압력을 가한다고 했다.

속도 대 안전의 선택 구도를 “거짓 선택”이라고 불렀다. 빨리 달리되 통제가 안 되거나 제품이 안전하지 않다고 판단되면 멈추라고 했다. 드림포스에는 4만3천 명 이상이 모였고, 같은 무대에서 아모데이가 산업 표준과 투명성을 먼저 말한 뒤 황 대표가 나왔다.

드림포스 본무대 발언의 요지

황 대표는 안전이 법적 문제가 아니라 공학 문제라고 규정하고, 복잡한 컴퓨팅 시스템도 결국 컴퓨팅 시스템이라고 말했다.
기능·성능·안전에 확신이 없으면 제품을 내지 말라는 기존 제조·소프트웨어 관행을 AI에도 그대로 적용하라고 했다.
시장이 이미 작동하므로 새 법과 새 규제는 필요 없다고 반복했다.
혁신 속도와 안전한 제품은 동시에 가능하다고 했고, 통제 불능 신호가 보이면 일시 중단하라고 했다.
엔비디아와 세일즈포스는 이날 엔비디아 네모트론 기반 고객관리 추론 모델 ‘코아’를 공개했고, 가중치와 추론은 세일즈포스 인프라 안에서 돈다고 밝혔다.

전날(14일) 로스앤젤레스 올인 서밋에서는 트럼프 대통령이 무대 위 황 대표에게 전화를 걸어 스피커폰으로 이야기했다. 대통령은 로봇과 AI가 세상을 장악한다는 우려를 “사기”라고 했고, 감속은 중국에 이롭다고 했다. 황 대표는 그 판단에 동의했다.

CNBC에서 반독점 면제 불필요 발언

아모데이 에세이는 민주국가 랩들이 안전 기준과 능력 확장 속도를 맞추려면 미국 정부가 좁은 범위의 반독점 면제를 줘야 한다고 적었다. 경쟁사끼리 출시 속도를 합의하면 현행 반독점법에 걸릴 수 있어서다.

황 대표는 CNBC ‘매드 머니’에서 그 구조를 정면으로 거부했다. 새 법, 새 반독점법, 새 규제가 있어야 랩이 출시 전 공학을 제대로 할 수 있다는 전제 자체를 “완전히 불필요하다”고 했다. 제품의 신뢰성과 기능을 다루는 법은 이미 충분하다고 했다.

CNBC가 전한 황 대표 추가 주장

랩이 안전을 이유로 출시 속도를 서로 맞추려면 정부가 반독점 면제를 줘야 한다는 제안에 반대했다.
시험과 안전은 모두 공학 문제이며, 준비가 안 된 제품은 더 시험하면 된다고 했다.
2030년에 인류가 죽는다는 식의 경고를 받아들이지 않는다고 말했다.
엔비디아의 주요 고객에 앤트로픽과 오픈AI가 포함된다는 점을 인터뷰에서 언급했다.
일자리 대량 소멸 우려도 “완전히 난센스”라고 드림포스 전후 발언에서 일축했다.

가디언은 랩 간 속도 조정을 반독점 면제로 푸는 구상을 과거 산업의 담합 면제 요구와 같은 계열로 읽었다. 경쟁을 줄이면 일상 이용자가 입는 피해에 대한 견제가 약해진다는 반론이다.

저커버그, 랩별 안전 속도 주장

저커버그는 아모데이나 오픈AI를 직접 호명하지 않고 산업 전체 감속 요구와 거리를 뒀다. 랩마다 모델을 안전하게 학습시킬 속도와 조치를 스스로 정할 수 있고, 그렇게 할 유인도 있다고 했다.

정렬과 신뢰를 에이전트·모델의 차별화 능력으로 올렸다. 정렬에 힘을 쏟지 않는 랩은 뒤처진다고 했다. 독립 평가자와 자문을 쓰는 일을 업계 모범 관행으로 적었다.

메타가 같은 날 공개한 자체 조치

메타는 에이전트 ‘뮤즈’ 출시를 수개월 미뤄 안전과 보안을 보강했다고 밝혔다.
다른 랩이 먼저 멈추기를 요구하지 않았고, 일상 업무의 일부로 지연했다고 했다.
모델이 해를 끼치면 상당한 법적 책임을 진다는 점이 사전 점검 유인이 된다고 했다.
재귀적 자기개선에 연산 자원을 몰아넣기보다 이용자 서비스에 연산의 상당 부분을 쓰는 편이 더 안전하다고 했다.
이용자가 자신과 어긋난 에이전트를 쓰지 않으리라는 시장 압력도 함께 들었다.

황 대표와 저커버그의 공통점은 출시 결정을 기업 단위에 두는 것이다. 차이는 메타가 독립 평가자를 명시하고, 엔비디아는 새 법 자체를 필요 없다고 한 지점에 있다.

아모데이 에세이, 3단계 페이싱 제시

아모데이는 9월 12일께 개인 사이트에 ‘프론티어를 보조에 맞춰야 한다’ 에세이를 올렸다. 올여름 이후 모델이 다음 세대를 만드는 속도가 빨라졌고, 오픈AI 모델이 허깅페이스를 대상으로 한 에이전트 군집 사고 같은 사건이 겹쳤다고 적었다.

페이싱은 학습 중단이 아니다. 정렬과 보호 장치에 시간을 주고, 제3자가 그 시간을 썼는지 확인하는 쪽에 가깝다. 오픈AI 샘 올트먼은 페이싱에 동의한다고 공개 호응했다. 일론 머스크와 구글 딥마인드 데미스 허사비스도 조정 논의에 이름을 올렸다.

에세이가 나열한 3단계와 전제

1단계는 내재 평가자다. 메트르 같은 외부 평가팀에 직원급 상시 접근을 주고, 학습 파이프라인까지 점검하게 한다. 앤트로픽은 이 단계를 단독으로 약속했다.
2단계는 민주국가 랩의 공동 안전 기준과 무제한 능력 확장에 대한 한도다. 반독점 리스크 때문에 미국 정부의 중재나 좁은 면제가 필요하다고 적었다.
3단계는 중국을 포함한 국제 조율이다. 고성능 칩과 반도체 장비 수출 통제, 모델 증류 단속이 미국의 시간 차를 벌릴 수 있다고 봤다.
오픈AI-허깅페이스 사고가 인명 피해는 없었지만, 같은 정렬 실패가 더 강한 능력과 결합하면 대규모 봇넷으로 이어질 수 있다고 경고했다.
세마포어는 상장을 앞둔 랩이 능력 경쟁보다 안전·수익 모델을 말하는 편이 투자 설명에 유리할 수 있다고 해석했다. 동기 추정이므로 에세이 문장 자체와는 별개다.

드림포스에서 아모데이는 자사 기록부터 점검하고 투명성과 안전 투자를 늘린 뒤 산업 표준을 만들자고 말했다. 황 대표의 “출시하지 않으면 된다”와 같은 무대, 다른 처방이다.

미 의회는 의무 법안을 병행 추진

백악관 기조와 의회 초안은 같지 않다. 트럼프 대통령은 가드레일로 “강하고 똑똑한 대통령”이면 충분하다고 썼고, 아모데이를 실명으로 겨냥했다. 하원 의장 마이크 존슨은 입법을 서두르지 말라고 했다. 데이비드 색스 등 행정부 쪽 인사는 기업 자율을 우선하는 쪽에 서 있다.

의회에는 이미 감사·출시 차단·킬 스위치·제조물 책임을 다루는 초안이 올라 있다. 황 대표가 말한 “이미 충분한 법”이 프론티어 모델의 출시 전 위험을 커버하는지는 이 초안들이 다루는 공백과 맞물린다.

의회에 올라 있는 주요 장치

하원 프론티어 법안(제이 오버놀트, 로리 트래핸 등)은 매출·자원 규모에 따라 개발사 감사와 평가를 요구하고, 상무부 인공지능 안보 차관보가 독립 평가 기관을 인가하는 구조를 담았다.
상원 존 튠·테드 크루즈·에이미 클로버샤 쪽 개정 작업은 자발적 서약을 주의 의무로 바꾸고, 정부가 위험 모델 출시를 막은 뒤 법원이 다툴 수 있게 하는 방향을 검토 중이다.
테드 류·너새니얼 모런의 인공지능 킬 스위치 법안은 고도 시스템에 중단·차단 수단을 유지하라고 한다.
조시 홀리 등이 챗봇을 제조물로 보고 피해 소송을 가능하게 하는 책임 법리를 밀어 왔고, 주 단위 모델 법안도 circulates 되고 있다.
오버놀트·트래핸 초안의 다른 판본에는 주 규제를 한시 선점하는 조항이 들어가 산업계와 주 정부 반발이 갈렸다.

제품 책임만으로 충분하다는 주장은 재판이 사후에 열린다는 한계를 남긴다. 상원 초안이 출시 전 차단을 넣는 이유다. 반대로 출시 전 허가제는 중국과의 속도 경쟁을 이유로 행정부가 막기 쉽다.

유럽은 일반목적 모델 의무를 적용

미국이 새 법을 둘지 다투는 동안 유럽연합은 이미 일반목적 AI(GPAI) 의무와 집행 권한을 가동했다. 2026년 8월 2일부터 집행위원회 AI 사무국과 회원국 당국이 감독·제재 권한을 쓴다. 고위험 시스템 의무는 옴니버스 개정으로 2027년 12월 등으로 미뤄졌다.

미국 랩이 유럽 시장에 모델을 공급하면 워싱턴의 “새 법 불필요”와 별개로 문서화·위험 평가·시정 명령을 받는다. 황 대표 발언은 미국 국내 입법을 겨냥한 것이지 유럽 역외 적용을 지우지는 못한다.

유럽 집행이 지금 건드리는 항목

AI 사무국은 기술 문서 요구, 모델 평가, 시정 명령, 과징금을 부과할 수 있다.
GPAI 의무 위반 과징금 상한은 전 세계 연매출 3% 또는 1,500만 유로 중 높은 쪽이다.
금지 행위 위반은 7% 또는 3,500만 유로까지 올라간다.
약 21개 제공자가 GPAI 실천규약에 서명했고 아마존, 앤트로픽, 구글, IBM, 마이크로소프트, 미스트랄, 오픈AI가 포함된다.
2025년 8월 2일 이전 출시 모델은 2027년 8월 2일까지 유예되고, 이후 출시 모델은 즉시 적용 대상이다.

칩 공급자와 모델사의 이해 차이

황 대표 발언의 무게는 엔비디아가 학습·추론 칩 공급의 정점에 있다는 사실에서 나온다. 랩이 속도를 낮추면 단기 칩 수요 곡선이 꺾인다. 규제 진영은 이 구조를 이해충돌로 본다. 산업·하드웨어 진영은 법이 출시 책임을 기업에서 위원회로 옮길 뿐이라고 본다.

메타는 자체 모델을 학습하고 오픈 가중치 전략을 병행한다. 엔비디아처럼 칩을 팔지는 않지만, 폐쇄형 프론티어 랩의 공동 한도가 자사 일정에 족쇄가 되는 구도는 피하고 싶어 한다. 세일즈포스는 클로드 연동을 확대하면서도 베니오프가 “랩이 각자 속도를 정한 뒤 책임을 지면 된다”는 쪽에 가깝게 말했다.

입장이 나뉘는 세 축

하드웨어·플랫폼 쪽은 기존 제조물·소비자 법과 출시 자제로 충분하다고 본다.
프론티어 랩 일부는 경쟁 압력이 단독 감속을 불가능하게 하므로 정부 매개 조율이 필요하다고 본다.
기업 고객·규제 당국 일부는 속도 대 안전의 이분법보다 감사 접근권, 사고 보고, 출시 전 평가처럼 검증 가능한 절차를 요구한다.
공화당 지도부와 백악관은 중국 경쟁을 이유로 신규 장벽에 반대하는 발언을 이어 갔다.
초당 의원 그룹은 주의 의무와 독립 감사를 법 문장에 넣는 작업을 멈추지 않았다.

시장이 위험한 출시를 막는다는 주장은 아직 가설이다. 챗봇 관련 소송과 에이전트 보안 사고는 사후 책임의 존재는 보여 주지만, 출시 전 억제로 이어졌는지는 사건마다 다르다. 저커버그가 든 뮤즈 지연은 자발적 사례 한 건이다.

입법 연합이 ‘랩 대 정부’가 아니라 ‘칩·플랫폼 대 프론티어 랩’으로 쪼개지면 법안 통과에 필요한 산업 합의는 더 얇아진다. 공급망 최상단의 공개 입장은 로비 방향과 자본 배분에 바로 반영된다. 유럽 GPAI 집행과 미국 상원 초안은 그 공백을 각자 다른 방식으로 메우려 한다.

#AI 정책 #AI 안전 #AI 산업