평균 품질 뒤에 숨은 획일화 비용
기술 작가 댄 제프리스는 인간이 쓴 코드와 글의 평균 수준이 형편없으며, AI는 99%의 사람에게 개선을 가져다준다고 주장했다. 운전처럼 성과를 사고 건수로 비교할 수 있는 영역에서는 설득력 있는 주장이다. 자율주행 기업 Waymo는 2026년 3월까지 자율주행으로 2억 2천만 마일을 달렸다. 그 결과, 같은 지역의 인간 운전자보다 중상, 사망 사고는 94%, 보행자 상해 사고는 93% 적었다. 애틀랜타에서 운행한 540만 마일만 놓고 봐도 인간 운전자라면 1.2건의 중상 사고가 예상됐지만, Waymo의 사고는 한 건도 없었다. ‘덜 충돌하는 운전이 더 나은 운전’이라는 기준에서는 평균적인 인간이 패배한 셈이다.
하지만 글의 품질은 하나의 점수로 평가하기 어렵다. 정확성뿐 아니라 표현의 밀도, 고유한 말투, 살아온 경험의 흔적까지 평가 대상이기 때문이다. 2026년 국제 학술지 《네이처 인간행동》에 실린 연구는 7개 데이터셋에 담긴 글 88만 건을 분석했다. 그 결과 LLM이 확산한 뒤 소셜미디어, 뉴스, 학술 글에서 문체 복잡도의 분산이 21~50% 줄어든 것으로 나타났다. AI 교정은 글쓴이의 성별과 연령, 이념과 도덕적 성향을 짐작하게 하는 단서도 희미하게 만들었다.
AI가 글의 평균 품질을 높이는 과정에서 사라진 것은 서툰 표현만이 아니었다. 누가 썼는지를 보여주는 흔적도 함께 지워졌다. 운전처럼 기준이 분명한 활동에서는 일관된 개선이 곧 진보다. 그러나 여러 기준이 공존하는 글쓰기에서는 모두를 고르게 향상시키는 일이 오히려 글을 서로 닮게 만들 수 있다. 평균의 향상에는 개성의 감소라는 대가가 따를 수 있다.
시행착오를 건너뛴 천재는 없다
천재라 불리는 게임 개발자 존 카맥도 처음부터 능숙했던 것은 아니다. 첫 게임을 만들 때 그는 기계어를 손으로 작성하고, 모눈종이에 그린 캐릭터를 일일이 16진수로 변환했다. 하지만 2025년 AI 생성 《퀘이크》 데모를 둘러싼 논쟁에서 카맥은 소프트웨어의 발전으로 이런 작업이 ‘전차 궤도를 정비하는 일’만큼이나 무의미해졌다고 썼다.
오늘날의 기준으로 보면 비효율적인 노동이다. 그러나 당시의 카맥에게는 기술의 원리를 이해하고 자신만의 방식을 찾아가는 과정이었다. 나중에 불필요해진 수고도 그 순간에는 실력을 쌓는 시간이었다. 천재의 예외성은 평범한 시행착오를 건너뛴 데서 나오지 않는다.
튀르키예 고등학생 약 1,000명을 무작위로 나눈 실험에서도 ‘당장의 성과’와 ‘실력의 성장’은 다르게 나타났다. GPT-4를 자유롭게 사용한 학생들은 연습 문제에서 대조군보다 48% 높은 성적을 거뒀다. 그러나 도구 없이 치른 시험에서는 오히려 17% 낮은 점수를 받았다. 반면 정답을 알려주지 않고 힌트만 제공하는 튜터형 AI를 사용했을 때는 이러한 성적 하락이 나타나지 않았다.
도구의 도움으로 과제를 잘 풀었다고 해서, 그 과정에서 풀이 능력까지 익힌 것은 아닐 수 있다. 결과물의 완성도를 즉시 높여 주는 도구가 사용자의 숙련도까지 함께 높인다는 보장은 없다. 서투른 시기를 건너뛰면 좋은 답은 더 빨리 얻을 수 있다. 하지만 혼자서 답을 만들어 내는 능력은 자라지 않을 수 있다.
리콜 서류에는 사람 이름이 필요하다
미국 법원은 인간과 AI의 경계를 작품의 완성도로 가르지 않았다. AI가 생성한 그림 《A Recent Entrance to Paradise》도 작품성 자체는 심사 대상이 아니었다. 2025년 3월 연방항소법원은 저작권 보호에 인간 저작자가 필요하다고 판단했고, 2026년 3월 연방대법원은 상고를 기각했다. 저작자란에 인간의 이름이 없었기 때문에 보호받지 못한 것이다. 미국 저작권청의 기준도 같다. 인간이 표현 요소를 충분히 결정했다면 AI를 활용한 결과물도 보호할 수 있지만, 프롬프트만 입력한 경우에는 그렇지 않다. 핵심은 결과물이 얼마나 뛰어난지가 아니라, 누가 어떤 부분을 창작했느냐이다.
인간보다 94% 안전하다는 통계가 나온 시스템도 예외는 아니었다.
- 2026년 5월에는 침수된 도로에 진입한 문제로 3,800대가, 6월에는 폐쇄된 고속도로 공사 구간에 들어간 문제로 약 3,900대가 리콜됐다.
- 어린이와의 접촉 사고와 스쿨버스 추월 문제도 미국 도로교통안전국(NHTSA)과 미국 연방교통안전위원회(NTSB)의 조사를 받고 있다.
사고율이 아무리 낮아져도 통계가 책임까지 대신할 수는 없다. 리콜 서류에 이름을 적고 규제기관의 질문에 답하는 주체는 결국 사람이다.
평범한 사람들이 만든 결과물 역시 AI의 학습 과정에서 빼놓을 수 없다. 국제 머신러닝 학회 ICLR 2025에 발표된 ‘강한 모델 붕괴’ 연구에 따르면, AI가 만들어 낸 합성 데이터가 전체의 1,000분의 1만 섞여도 성능 저하가 시작됐다. 데이터의 양을 늘려도 성능은 회복되지 않았다. 인간이 만든 자료를 대체 가능한 잉여로 취급한다면 AI의 평균적인 성능조차 유지하기 어렵다.
인간은 상위 1%의 성취에만 붙는 이름이 아니다. 만들고 배우고, 그 결과를 감당하는 자리는 나머지 99%에게도 남아 있다.
출처
- Dan Jeffries — “Human written code was mostly drek unless you were a genius like John Carmack.” (X, 2026-08-30)
- Waymo Safety Impact Update, June 24, 2026 — Waymo
- The shrinking landscape of linguistic diversity in the age of large language models — Nature Human Behaviour
- John Carmack Defends Microsoft’s AI-Generated Quake II Level — GameSpot
- Generative AI without guardrails can harm learning — PNAS
- Thaler v. Perlmutter — D.C. Circuit
- Supreme Court Denies Certiorari in Thaler v. Perlmutter — Baker Donelson
- Copyright and Artificial Intelligence, Part 2 — U.S. Copyright Office
- Waymo recalls nearly 4,000 robotaxis — TechCrunch
- Waymo recalls 3,800 robotaxis — CNBC
- Strong Model Collapse — ICLR 2025