생성형 AI를 업무나 글쓰기에 썼다고 밝히면 결과의 품질과 상관없이 신뢰를 잃는다. AI가 일상적인 도구가 된 지금 직장인과 학생, 전문직처럼 결과에 책임을 지는 사람 모두에게 걸리는 문제다. 사용 여부만 묻는 기준과 입력 자료, 검증, 승인 과정을 따지는 기준은 서로 다른 판단을 낳는다.
법원은 도구가 아니라 행위를 본다
AI가 작업에 개입했다는 이유만으로 결과물 전체를 의심하는 태도가 퍼져 있다. 그러나 책임 판단은 무엇에 썼는지, 어떤 자료를 입력했는지, 누가 결과를 검증했는지에 달려 있다. 공개 자료를 요약하는 일과 기밀 계약서를 외부 서버에 올리는 일은 같은 AI 사용이 아니다.
사용 사실을 밝히는 순간 이런 차이는 사라진다. 3,000명 이상이 참여한 13개 사전등록 실험 에서 AI 사용을 공개한 사람은 일관되게 낮은 신뢰를 받았다. 직장 연구에서도 결과물의 품질이 같았지만 AI 사용자는 더 게으르다는 평가를 받았고, 주요 프로젝트에 추천될 확률도 24% 낮았다. 이런 낙인 때문에 사람들은 AI를 덜 쓰기보다 숨긴다.
반면 법원은 사용 여부보다 검증 실패를 문제 삼는다. 2026년 미국 법원이 허위 판례와 조작된 인용에 제재를 내린 까닭은 생성형 AI 사용 자체가 아니라, 변호사가 내용을 확인하지 않고 제출했으며 조사에서도 정직하게 답하지 않았기 때문 이다. 법원은 도구 사용이 아니라 행위를 기준으로 삼는다.
자동완성은 AI가 아니라는 착각
사람들은 자동완성이나 통화 선별, 날씨 알림을 쓰면서도 AI를 쓴다고 여기지 않는다. 미국 성인의 51%는 휴대전화에서 AI를 쓰지 않는다고 답했지만, 기능을 구체적으로 제시하자 86%가 매일 이용하는 것으로 나타났다. 익숙한 보조 기능은 용인하면서 저자 개입이 드러나는 생성형 AI에는 더 엄격한 잣대를 대는 셈이다.
보조와 대행의 경계는 뚜렷하지 않다. 자동완성이 여러 단어를 제안하고 사람이 하나를 골랐을 때 문장을 누가 썼다고 하기는 애매하다. 완성한 초고의 문단 순서를 AI로 조정하는 일과 기밀 계약서를 공개 모델에 입력하는 일도 위험이 전혀 다르다. 둘을 같은 칸에 넣으면 필요한 감독 수준을 정하지 못한다.
규칙은 사용 사실보다 위험을 겨냥한다. 어떤 자료를 입력했는지 기록하고, 사실과 인용을 별도로 확인하며, 자동 판단의 편향을 점검하는 일이 핵심이다. 위험이 큰 결과일수록 검증과 승인은 더 강하고 명확해진다.
물론 도구를 제한할 이유가 분명한 경우도 있다. 시험이나 경기처럼 무보조 능력 자체를 비교한다면 같은 조건을 갖추기 위해 AI를 금지하기도 한다. 실무의 목표가 정확한 글, 진단, 설계안을 만드는 것이라면 도구의 유무보다 결과와 절차를 함께 평가한다.
완제품 검사로는 못 잡는다, HACCP의 교훈
식품 안전도 비슷한 문제를 먼저 겪었다. 1959년 NASA의 우주 식품 개발에서 발전한 HACCP(위해요소 중점관리제도)는 완제품 일부만 검사하는 대신, 위해가 생길 수 있는 공정 지점을 미리 정하고 단계마다 관리 기록을 남긴다.
AI 결과물도 문체나 단어 배열만 보고 출처를 추정하기보다 공정을 관리하는 편이 정확하다. 입력 자료, 생성과 편집의 범위, 사실 확인, 최종 승인을 기록하면 어디에서 오류가 생겼는지 추적된다.
AI 검출기에는 완성품만 검사하는 방식의 한계가 있다. 밴더빌트대는 연간 제출물 7만5,000편에서 오탐률이 1%에 불과하다고 가정해도 무고한 제출물 750건이 AI 사용자로 분류될 수 있다 며 검출 기능을 중단했다. 결과물에 남은 흔적을 추정한다고 해서 책임 있는 작성 과정이 증명되지는 않는다.
EU AI 법 50조 가 요구하는 합성 콘텐츠 표시와 AI 상호작용 고지도 출발점일 뿐이다. 표시는 AI가 개입했다는 사실을 알려 주지만, 사실을 누가 검증했고 편집을 누가 승인했는지까지 보여주지는 않는다.
감사는 계산기를 금지해서 신뢰를 얻지 않았다
회계 감사는 계산기와 소프트웨어를 배제해서 신뢰를 얻지 않았다. 사베인스, 옥슬리법은 CEO와 CFO가 보고서의 정확성과 내부 통제를 직접 인증 하게 했다. 도구의 순도를 따지는 대신 승인자의 책임을 분명히 했다.
마찬가지로 AI 공정의 공개는 AI를 사용했다는 한 줄로 끝나지 않는다. 어떤 작업을 맡겼고 어떤 자료를 입력했으며 누가 사실과 인용을 확인했는지가 함께 남는다. 내부 초안보다 법원 제출물, 임상 판단, 채용 탈락 통보처럼 되돌리기 어려운 결과일수록 검증은 더 강하게 적용된다. 모델이 틀렸다는 이유로 최종 승인자의 책임은 면제되지 않는다.
책임을 실무자 한 사람에게만 지우지도 않는다. 담당자는 결과를 검증하고, 관리자는 위험 등급과 승인 기준을 정하며, 시스템 운영자는 기밀 입력을 차단한다. 조직은 어떤 도구와 기준을 선택했는지 감사를 받는다.
AI를 썼다는 이유만으로 책임져야 하는 사람은 없다. 오류가 났을 때 제출자와 승인자, 절차 설계자를 확인할 수 없는 구조가 문제다. 책임은 도구를 잡은 손을 고발하기보다 결과에 이름을 남기는 데서 시작한다.
AI의 역할이 넓어지면 사람이 직접 만들었다는 설명만으로는 작업의 신뢰도가 충분히 드러나지 않는다. 저자와 검토자의 역할은 결과물에 남은 흔적보다 각자가 내린 판단의 기록에서 더 구체적으로 드러난다.