제재받은 변호사, 스스로 철회한 판사
2026년 1월 뉴욕주 항소법원은 Deutsche Bank v. LeTennier 사건에서 변호사에게 5,000달러 제재금을 물렸다. 서면 다섯 건에 없는 판례 23개를 인용한 탓이다. 뉴욕주 항소 단계에서 AI가 지어낸 인용(환각)으로 제재가 나온 첫 사례다.
판사가 비슷한 실수를 했을 때는 양상이 달랐다. 2025년 7월 뉴저지주의 한 판사는 인턴이 허가 없이 ChatGPT로 조사한 내용이 들어간 결정문을 스스로 철회했다.
변호사에게는 인용을 확인할 의무가 있고, 법원에는 제재 수단이 있다. 판사 쪽에는 둘 다 없다. 연방판사 502명을 조사한 결과 60%가 넘는 판사가 생성형 AI를 써봤다고 답했지만, 판사 사무실(챔버)의 4분의 1은 공식 방침조차 두지 않았다.
웨스트로가 만들어낸 조항 121개
검증된 법률 도구를 쓰면 된다는 생각이 있다. 스탠퍼드 로스쿨이 2026년 8월 공개한 실험은 그 기대를 깨뜨린다. 상용 플랫폼 웨스트로에 연방 범죄 조항을 전부 찾게 했더니, 실제 조항은 절반도 못 찾으면서 없는 조항 121개를 만들어냈다.
조달만으로 끝나는 문제가 아니다. 결과가 어디서 틀어지는지 직접 겪어본 사람만 가려낼 수 있다. 그런데 판사들은 그 경험을 개인 계정 안에서 혼자 쌓고 있다.
쓰지 말라고만 하고, 시험할 곳은 없다
다른 길은 사법부가 직접 운영하는 공용 실험 환경이다. 연방법원 행정처의 잠정 지침은 핵심 판단을 AI에 넘기지 말라고만 경고했을 뿐, 어디서 시험할지는 정하지 않았다.
성능을 따지기 전에 계약 조건을 먼저 고정해야 한다. 입력 내용을 학습에 쓰지 못하게 하고, 업체 직원이 프롬프트를 보지 못하게 해야 도구를 시험할 수 있다. 스탠퍼드의 실험 환경은 이용자 약 4만 명이 여러 모델을 쓰는데도 엔지니어 한두 명으로 운영된다.
서버를 세운다고 배움이 자동으로 쌓이지는 않는다. 도구가 어디서 무너졌는지 판사들이 모여 남겨야 실패 사례가 다른 법원으로 넘어간다.
변호사의 서면은 상대방이 검증한다. 판사의 결정문에는 그 상대가 없다. 사후에 처벌로 메울 수 없다면, 남는 건 사전에 실패를 겪어볼 장소다.
출처
- An AI Playground for the Courts — Lawfare
- Deutsche Bank National Trust Co. v. LeTennier — Legal AI Governance Tracker
- Two Federal Judges Apologize For Issuing Opinions With AI Hallucinations — Reason/Volokh
- Artificial Intelligence in Federal Courts: A Random-Sample Survey of Judges — New York City Bar Association
- Interim AI guidance for US courts aims for experimentation with guardrails — FedScoop