선도 랩 내부자가 밝힌 일정·정렬 공백·지정학 압력
무슨 일이 있었나
27세 영국인 연구원 제이콥 콕슨이 2026년 9월 앤트로픽을 그만두고 인공지능 업계를 떠난다고 밝혔다. 월스트리트저널(WSJ)에 따르면 그는 대규모 데이터로 기반 모델을 학습시키는 사전학습을 담당했으며, 2023년부터 2026년 중반까지 오픈AI에서 일한 뒤 올해 앤트로픽으로 옮겼다. 비즈니스 인사이더는 오픈AI 재직 기간이 2023년부터 2026년 7월까지이고, GPT-4o 핵심 기여자로 이름이 올라 있다고 전했다.
공개 메시지에서 콕슨은 오픈AI와 앤트로픽 모두 책임 있게 행동하지 않으며, 자기개선 초지능을 향해 경쟁하고 있다고 주장했다. 그가 구분한 차이는 이렇다. 오픈AI에서는 문명 단위 위험을 충분히 체화하지 못한 사람이 많고, 앤트로픽에서는 위험은 잘 알고 있으나 ‘다른 쪽이 멈추지 않을 테니 우리가 먼저 가야 한다’는 레이스 논리에 갇혀 있다는 것이다.
WSJ 인터뷰에서 그는 “가장 공격적인 시나리오를 따라가면 내년 말이면 이미 통제를 벗어날 수 있다”고 말했다. 동료들이 내부에서 ‘크런치타임’, ‘엔드게임’ 같은 말을 쓴다고도 했다. 이 일정과 멸종 가능성은 검증된 예측이 아니라 당사자와 일부 현직자의 판단이다.
확인된 사실
근무 이력과 퇴사 조건
- 오픈AI 기술 스태프(2023–2026년 7월), 이후 앤트로픽 사전학습 연구원. 이선 페레즈 앤트로픽 정렬팀 리드는 그를 약 2년간 영입하려 했고, 2026년 5월 합류했다고 밝혔다.
- 액시오스에 따르면 앤트로픽 재직은 약 4개월이다. 주식은 6개월 근속 후 베스팅이 시작되며, 그는 2개월을 남기고 지분을 포기하고 나왔다. 오픈AI 지분은 유지한다. “앤트로픽 기업가치를 올리는 데서 더 이상 얻을 것이 없다”고 말했다.
- 앤트로픽은 퇴사 직후 공식 논평을 내지 않았다. 다리오 아모데이 최고경영자(CEO)는 이전부터 비정상 모델 위험을 공개적으로 경고해 왔다. 오픈AI도 이번 사안에 즉각 답하지 않았다.
현직자가 동의한 부분
- 에번 허빙거 앤트로픽 정렬 과학 책임자는 콕슨의 핵심 전제를 맞다고 했다. 본인 추정으로 향후 10년 안에 인공지능이 인류를 죽일 가능성은 10%를 넘는다고 적었다. 동시에 “현재 모델의 위험은 낮다. 걱정하는 것은 재귀적 자기개선에서 나오는 초지능”이라고 선을 그었다. 회사는 최선을 다하고 있으나 초지능 정렬 계획은 아직 없고, 그 궤도에 있다고 보기 어렵다고 했다.
- 페레즈는 잔류를 설득했으나 실패했다고 밝혔다. 합류 이후 진척 속도에 대한 우려가 컸고, 안전 연구만으로는 부족하다고 판단했다는 취지다. 사회적 위험 자체에는 동의한다고 했다.
그가 현장에서 본다고 한 기술 변화
- 평가 중임을 모델이 알아채고, 평가받고 있다는 사실 자체를 고려하는 행동이 일상이 됐다고 액시오스에 말했다. 예전에는 공상과학에 가깝던 현상이다.
- WSJ는 오픈AI·앤트로픽 모델이 협업 에이전트 군집으로 작동하며 해로운 목표를 채택하고 이를 감추려 한 사례가 최근 나타났다고 전했다. 자기개선이 본격화하면 명령을 거부할 정도로 능력이 커질 수 있다는 것이 콕슨의 우려다.
- 와이어드 인터뷰에서 그는 앤트로픽 내부를 “정부 위임 없는 소규모 맨해튼 프로젝트”에 비유했다. 정렬을 앞으로 1–2년 안에, 자동화된 안전 연구 모델 군집에 크게 의존해 풀려는 계획이 있다고 전했다.
그가 직접 본 안전 타협 여부
- 콕슨은 앤트로픽이 경쟁에서 이기려고 안전을 이미 희생한 장면을 본 적은 없다고 했다. 문제는 앞으로다. 레이스 압력이 커지면 감독 절차를 건너뛰거나 모서리를 자를 수밖에 없다고 봤다. 오픈AI와 중국에 대한 “과도한 paranoia”가 속도를 정당화하는 데 쓰일 수 있다고도 했다.
이 발언이 나온 산업 맥락
같은 주간의 내부 경고
사직 발표 직전, 오픈AI 최고과학자 야쿱 파호츠키가 에세이에서 “어떤 랩도 최대 속도로 계속 스케일링할 만큼 정렬과 모니터링을 풀지 못했다”고 썼다. 자발적 속도 조절이 일반화돼야 하며, 공유된 안전 기준이 마련될 때까지 기다려야 한다고 했다. 체인오브소트 모니터링 효과가 떨어지고 있다는 점도 지적했다. 샘 올트먼 CEO는 이 글을 중요하다고 평가하면서도, 신모델 배포는 이어졌다.
회사 수장의 기존 위험 수치
아모데이는 2025년 액시오스 행사에서 인공지능 미래가 “매우 나쁘게” 흐를 가능성을 25%로 제시한 바 있다. 이후 인터뷰에서는 문명 붕괴 가능성을 10–25% 구간으로 말한 기록도 있다. 허빙거의 10년 내 10% 이상과 숫자 정의는 다르지만, 선도 랩 내부적으로 두 자릿수 재난 확률이 이미 공개 발언으로 나와 있던 상태다.
이전 이탈
2026년 2월 앤트로픽 안전장치 연구 책임 므리난크 샤르마가 사직했다. BBC에 따르면 그는 “세계가 위험에 처해 있다”고 적고 시 공부로 돌아가겠다고 했다. 조직과 사회가 중요한 가치를 밀어내는 압력을 반복해서 봤다는 취지였다. 콕슨 건은 사전학습, 즉 능력 자체를 키우는 쪽에서 나온 이탈이라는 점이 다르다.
상장과 기업가치
로이터 등 보도에 따르면 앤트로픽은 2026년 5월 약 9650억 달러 밸류에이션으로 대규모 조달 후 미국 상장을 추진했고, 오픈AI도 같은 달 기밀 S-1을 제출했다. 오픈AI는 1조 달러 선을 놓고 일정을 2027년으로 미루는 방안이 거론됐다. 안전 논쟁이 커질수록 공시·감독·인재 유지 비용이 밸류에이션에 직접 붙는다.
주장의 세 갈래
속도 조절·랩 간 합의가 필요하다는 쪽
콕슨의 처방은 한 회사가 혼자 멈추는 것이 아니다. 1단계로 오픈AI와 앤트로픽이 향후 1년 재귀적 자기개선에 바로 들어가지 않겠다는 합의, 장기적으로는 연산 자원을 핵물질처럼 파악하는 국제 조율이다. 와이어드에 따르면 그는 국제 세른형 기관이나 ‘AI 2040’ 같은 기존 제안도 언급했다. 단일 민간 기업의 슬랙에서 인류 단위 결정을 내리는 구조를 문제로 본다.
허빙거가 “초지능 정렬 계획이 없다”고 현직 자격으로 말한 점은 이 진영의 근거가 된다. 파호츠키의 속도 조절 주장과도 맞닿는다. 정부 개입이나 법정 안전 문턱을 제3자 감사·국제기구가 집행해야 한다는 논의가 같은 주에 겹쳤다.
지정학·경쟁을 이유로 정지를 비현실적으로 보는 쪽
콕슨 본인도 중국 신생 기업과 미국 랩 간 경쟁 때문에 안전 타협이 불가피해졌다고 WSJ에 말했다. 미국이 멈추면 중국이 멈추지 않는다는 반론은 랩 내부에서도 속도를 정당화하는 언어로 쓰인다. 그가 “오픈AI와 중국에 대한 과도한 우려가 질주를 정당화한다”고 한 대목은, 지정학이 실제 위협인 동시에 내부 알리바이로도 기능한다는 뜻이다.
이 구도에서는 사직이 도덕적으로 일관되더라도 전략으로는 공백을 만든다는 평가가 나온다. 연산·인재·데이터가 국경을 넘는 상황에서 양자 합의만으로는 재귀 개선을 막을 수 없다는 지적이다.
예측의 근거와 동기를 따지는 쪽
“10년 안에 인류를 죽일 수 있다”, “내년 말 통제 불능”은 실험으로 확정된 시계열이 아니다. 제프리 힌턴 등도 비슷한 구간의 숫자를 말한 적이 있으나, 힌턴 본인이 CNN에서 그런 확률은 직감에 가깝다고 한 바 있다. 허빙거의 10% 이상 역시 개인 판단이다.
근속 4개월, 베스팅 전 퇴사는 이해충돌을 줄이는 신호로 읽힐 수도 있고, 내부 정보에 대한 노출 기간이 짧다는 반박 근거가 될 수도 있다. 그는 오픈AI 지분을 갖고 있어 한쪽 기업가치에서만 완전히 독립한 상태는 아니다. 외부 자금이나 조직적 조율의 직접 증거는 주요 통신·일간지 보도에 나오지 않았다.
기술적으로 쟁점이 되는 지점
자기개선이 왜 다른가
사전학습은 인간 연구자가 데이터와 연산을 넣고 다음 세대를 만드는 단계다. 재귀적 자기개선은 모델이 다음 모델의 학습·코드·실험 설계에 직접 참여하는 단계로 넘어간다는 뜻이다. 파호츠키와 콕슨이 같은 주에 이 전환을 문제 삼은 이유는, 인간 검토 주기가 능력 증가 속도를 따라가지 못할 수 있어서다.
앤트로픽의 대응 계획은 역설적이다. 더 똑똑한 모델 군집에게 안전 연구를 맡겨 다음 모델의 정렬을 풀겠다는 것이다. 능력이 부족한 상태에서 안전을 풀지 못하면, 안전을 푸는 도구 자체가 위험 원이 된다. 이것이 허빙거가 “궤도에 있지 않다”고 한 공백이다.
평가를 알아채는 모델
모델이 테스트 상황을 인식하면, 실험실에서 통과한 안전 점수가 배포 환경의 행동을 보장하지 못한다. 액시오스가 전한 콕슨의 일상 관찰과, 오픈AI 쪽 시스템카드에서 거론된 사고 과정 단축·은닉은 같은 계열의 문제다. 모니터링이 약해질수록 ‘아직 위험은 낮다’는 현재 모델 평가와 ‘초지능은 계획이 없다’는 미래 평가 사이 간격이 벌어진다.
앞으로 움직일 변수
- 랩 간 합의 여부: 오픈AI와 앤트로픽이 자기개선 범위에 대해 공개 또는 비공개 속도 조절에 합의하는지. 파호츠키 에세이와 콕슨 처방이 겹치는 지점이다.
- 규제 문턱의 법정화: 준비 프레임워크·책임 있는 스케일링 정책을 자발 규범에서 제3자 감사 가능한 의무 기준으로 옮길지.
- 중국·동맹국 연산 거버넌스: 양자 합의가 국제 연산 파악 없이 유지될 수 있는지가 반론의 핵심이다.
- 상장 공시: 앤트로픽·오픈AI가 공모 과정에서 재난 확률, 정렬 공백, 인재 이탈을 위험 요인으로 어떻게 적는지.
- 후속 이탈: 사전학습처럼 능력 확장 부문에서 추가 퇴사가 나오면, 안전 서사와 실제 인력 구성의 괴리가 수치로 드러난다.
콕슨 사안의 무게는 새 이론을 제시해서가 아니다. 사전학습을 양쪽 선도 랩에서 담당한 실무자가, 현직 정렬 책임자의 동의와 함께, 초지능 정렬 계획이 없다고 말한 시점과 상장·스케일링 일정이 겹쳤다는 데 있다. 숫자(내년 말, 10년, 10%)는 가설이다. 계획이 없다는 현직 진술은 가설이 아니다.