황, AI안전 우려는 ‘성장통’…영국에 2억5000만달러 컴퓨트 공약
엔비디아 최고경영자 젠슨 황이 불안전 AI 고객에 칩 공급을 중단할 수 있다고 14일(현지시간) 블룸버그 인터뷰에서 밝혔다.
황은 무엇이 불안전인지 판정 기준을 내놓지 않았다. 같은 주 회사는 영국 AI 안전·보안 연구에 5년간 2억5000만 달러 규모 컴퓨트 접근권을 기부한다고 발표했다. 가정적 공급 중단 발언과 연구 지원 공약이 같은 런던 일정에서 나란히 나왔다.
황, 가설에 공급 중단으로 답해
블룸버그 에밀리 창 앵커가 런던에서 무책임한 개발자에게 공급을 멈출지 물었다. 질문은 가정이었고, 황은 특정 고객이나 제품을 지명하지 않았다.
가설이지만, 그렇다.
— 젠슨 황, 블룸버그 10월 14일 · “It’s a hypothetical, but yes.”
엔비디아는 AI 모델을 학습·구동하는 가속기 칩의 지배적 공급사다. 스트레이츠 타임스에 따르면 이 지위 때문에 소프트웨어가 인간 통제를 벗어날 수 있는지에 관한 논의의 중심에 서 있다.
판단엔 한계 있다며 선 그어
공급을 끊기 전에 먼저 대화하겠다는 입장이다. 자사 기술은 범용이라고도 했다.
다른 회사의 경영을 대신하지는 않는다. 우리가 다른 회사의 기술 이용에 적용하는 판단에는 한계가 있다.
— 젠슨 황, 블룸버그 10월 14일 · “We don’t run other people’s companies, and there’s a limit to the judgment we apply to other companies’ use of our technology.”
앤트로픽 최고경영자 다리오 아모데이 등은 같은 우려를 이유로 업계 전반의 속도 조절을 제안해 왔다. 황은 유럽 순회 일정이었고, 베를린 회사 행사에 앞서 런던에 머물렀다.
영국에 2억5000만달러 컴퓨트 기부
엔비디아 뉴스룸에 따르면 회사는 13일 영국의 에이전트형 AI 안전·보안 연구에 5년간 2억5000만 달러 상당 컴퓨트를 기부한다. 에이전트형은 목표를 스스로 추구하며 움직이는 시스템을 가리킨다. 연간 5000만 달러 규모 접근권이며, 현금이 아니라 연산 자원이다. 기부 규모는 컴퓨트 이용 가치로 산정한 수치다.
지원 대부분은 영국 전역 연구 공동체에 돌아간다. 일부는 옥스퍼드대 BOLD 랩, 유니버시티칼리지런던(UCL) SOFAIR 랩, 임페리얼칼리지런던에 배정된다. 인프라는 영국 내 엔비디아 클라우드 파트너가 제공한다. 공급사 선정과 상업 조건은 아직 협의 중이다.
연구 범위에는 보안 에이전트, 오픈모델 보안, 실제 위협 완화가 들어간다. 안전한 샌드박스와 평가 벤치마크, 엔비디아 OpenShell 런타임과 Sentry 참조 설계를 쓰는 연구도 지원 대상이다. 결과는 자사만이 아니라 더 넓은 컴퓨팅 생태계의 안전장치에 반영하는 것이 목표다.
황은 발표문에서 “AI 역량과 안전은 함께 나아가야 한다”고 했다. 영국 연구자 손에 가속 컴퓨팅을 쥐여 더 강력해지는 AI의 안전장치를 개발·시험·강화하게 하겠다는 계획도 담았다. 영국 AI 장관 카니슈카 나라얀은 이번 기부를 영국 연구력에 대한 “신뢰의 표”라고 평가했다. 비즈니스 장관 조너선 레이놀즈는 영국 연구자들이 신뢰를 쌓는 돌파를 가속하는 데 도움이 될 것이라고 했다.
안전 우려는 성장통이라 반박
황은 블룸버그 인터뷰에서 현재의 AI 안전 우려 수준이 정당하지 않다고 봤다. 빠르게 크는 업계의 성장통이며, 소프트웨어는 통제하고 안전하게 배포할 수 있다는 입장이다.
많은 젊은 회사들이 성장통을 겪으며 믿을 수 없을 만큼 빠르게 자라고 있다. 회사를 키우는 데 따라붙는 책무와 책임은 이제 막 받아들이기 시작한 단계다.
일부 우려는 업계가 스스로 초래한 것이며, 업계가 새 기술의 이점을 설명하는 일은 “형편없다”고도 했다. 황은 “이 봉쇄 기술을 AI 시스템에 통합하는 일을 가속해야 한다”고 했다. “모니터링 기술 개발을 가속해야 하고, AI가 그 모니터다. 그래서 AI 기술을 가속해야 한다”고 말했다.
황은 공급 중단의 구체 요건과 판정 주체를 밝히지 않았다. 고객과의 대화 이후 어떤 절차로 끊을지, 누가 최종 결정을 하는지도 이날 설명에 없었다.