AI가 AI 개발에 관여하는 단계는 먼 미래의 가정으로만 남아 있지 않다. 다만 코드를 누가 썼는지만으로 인간의 통제력이 얼마나 남았는지는 알기 어렵다.
프로덕션 코드의 80%를 AI가 쓴다
Anthropic에서 Claude가 작성한 코드는 2025년 2월까지만 해도 전체 프로덕션 코드의 한 자릿수에 불과했다. 2026년 5월에는 80%를 넘어섰고, 엔지니어 한 명이 생산하는 코드도 8배 늘었다. AI는 인력을 대체하기 전에 먼저 개인의 작업량을 크게 늘리고 있다.
AI가 혼자 처리하는 일의 범위도 빠르게 넓어졌다. 모델 훈련을 최적화하는 내부 벤치마크에서 Mythos Preview(Anthropic의 내부 실험 모델)는 약 52배의 개선 폭을 보였다. 목표는 미리 정해져 있었다. 독립적으로 끝내는 과제의 길이도 2024년 3월 4분에서 2026년 3월 12시간으로 늘었다. 약 131일마다 두 배로 늘어난 속도다.
이제 AI는 실행만 하는 도구도 아니다. 다음 연구 단계를 사람보다 잘 제안한 비율이 2025년 11월 51%에서 2026년 4월 64%로 올랐다. 다만 후계 모델의 목표와 학습 방식을 스스로 정하는 단계에는 이르지 못했다. 후계자의 구현에는 참여하지만 무엇을 만들고 어떤 결과를 고를지는 아직 사람이 결정한다.
100명이 10만 명처럼 일하는 법
‘재귀적 자기개선’을 어떻게 정의하느냐에 따라 출발점은 달라진다. AI가 다음 AI를 개발하는 데 참여하는 것까지 포함하면 이미 시작됐다. 반면 AI가 개선 방식과 후계 모델을 스스로 설계하는 상태를 뜻한다면 아직 멀었다. 코드 작성 비율이 높아졌다고 해서 곧바로 지능 폭발의 증거는 아니다.
현재에 가장 가까운 모습은 인간과 AI가 역할을 나누는 ‘누적 가속’이다. 사람은 목표와 평가 기준을 정하고 AI는 실행한다. Anthropic은 이 방식이라면 100명 규모의 회사가 1만~10만 명 조직만큼 일한다고 본다. 실제 코드 작성과 칩 설계 사례에도 사람의 지시와 검증이 빠지지 않았다.
AI가 만든 논문은 ICLR 2025 워크숍에서 인간 논문의 절반 이상보다 좋은 점수를 받았고 관련 연구는 Nature에도 실렸다. 다만 제출한 세 편 중 통과한 것은 한 편뿐이었다. 연구 방향과 학습 틀은 사람이 제공했고 인용 환각과 얕은 방법론도 남았다. 이런 구조는 과도기의 타협이 아니라 오류를 줄이려는 선택에 가깝다.
METR의 8시간 이상 과제 31개 중 사람의 시간을 직접 잰 사례는 5개뿐이다. 시간 지평은 정확한 한계보다 장기 추세를 나타내는 지표에 가깝다.
리뷰와 전력망은 자동화되지 않는다
한 단계가 아무리 빨라져도 전체 속도는 가장 느린 단계가 결정한다. 코드 작성이 업무의 60%라면 그 시간을 없애도 전체 속도는 최대 2.5배만 빨라진다. Anthropic에서도 코드 생산량이 급증하자 사람의 리뷰가 새로운 병목이 됐다.
개발자 1만 명을 분석한 자료에서도 AI를 많이 쓰는 팀은 머지된 PR이 98% 늘었다. 하지만 리뷰 대기는 91%, PR 크기는 154%, 버그는 9% 증가했다. 배포 속도는 그대로였다. AI가 만든 PR은 리뷰가 시작된 뒤에는 빨리 처리됐지만 시작까지 4.6배 오래 기다렸다. 검토할 사람을 정하고 책임을 나누는 과정이 느리다.
컴퓨팅 자원 역시 소프트웨어처럼 빠르게 늘어나지 않는다. 미국 전력망에는 2,300GW가 넘는 발전 설비가 연결을 기다리고 있으며, 주요 데이터센터 지역의 연결 기간은 4~7년에 달한다. 알고리즘이 빨라져도 발전소와 송전선, 변압기, 인허가 일정까지 함께 단축되지는 않는다.
반도체 생산 현장의 노하우도 모델에 곧바로 담기 어렵다. 문서에 없는 판단은 사람과 장비, 생산 과정에 흩어져 있다. 결국 사람의 역할은 코드를 쓰는 일에서 문제를 고르고 결과를 믿을지 판단하고 중단할 시점을 정하는 일로 옮겨간다. 목표가 틀렸다면 52배 빠른 실행은 52배 큰 낭비가 된다.
루프를 쥔 마지막 손
인간이 통제권을 잃는 시점은 AI 성능이 사람을 앞서는 순간과 다르다. AI의 산출량이 사람이 검토하는 양을 넘으면 승인은 형식만 남는다. 이미 늘어난 리뷰 대기 시간은 이런 압박이 코드 개발 현장에서 시작됐음을 뜻한다.
사람이 의사결정 과정에 남으려면 검증 비용이 생성 비용보다 낮고 오류를 찾는 시간도 AI의 다음 반복보다 짧아야 한다. 막다른 길인지 판단하는 주체도 작업 시스템과 분리해야 한다. 생성보다 검증이 비싼 영역에서는 인간의 개입이 먼저 약해진다. 반면 정답을 기계적으로 확인하기 어려운 문제 선택은 더 오래 사람의 몫으로 남는다.
기업 밖의 통제도 검증 가능성에 달려 있다. Anthropic은 다른 개발사도 동참한다는 사실을 확인하면 개발 감속이나 일시 정지를 받아들인다고 밝혔다. 그러나 대규모 학습은 데이터센터 안에서 외부 관찰 없이 진행된다. 이를 보완할 TEE 기반 연산 증명은 일부 실제 배포 단계에 들어갔지만 아직 충분하지 않다.
폐쇄형 모델은 사업자로 통제할 수 있지만 공개 배포된 모델에는 같은 방식을 쓰기 어렵다. AI가 작성한 코드의 비율을 정지 기준으로 삼더라도 외부에서 확인되지 않으면 기업의 신고에 의존할 수밖에 없다. AI가 후계 모델을 만드는 능력은 계속 커질 것이다. 그때까지 인간에게 남는 가장 중요한 일은 직접 만드는 것이 아니라 무엇을 믿고 다음 단계로 넘길지 기준을 세우는 일이다.
자동화가 진행될수록 부족해지는 것은 작업 능력보다 결과를 확인할 시간과 책임을 맡을 사람이다.
인간의 위치는 모델의 성능만이 아니라 검증 절차가 실제 의사결정으로 기능하는지에 따라 달라진다.