워터마크가 증명하지 못하는 단 한 가지
이 표식은 무엇을 증명할까? 생성형 AI의 워터마크는 화면에 보이지 않는 표식이다. 모델이 다음 단어를 고르는 확률에 일정한 패턴을 심고 비밀 키로 판독한다. 텍스트에 숨은 문자를 넣는 방식이 아니어서 복사해 지울 수 없고, 독자도 문장만 읽어서는 알아채기 어렵다. Anthropic은 유럽연합 AI법의 표시 의무에 맞춰 향후 Claude 출력에 워터마크를 적용한다고 밝혔고, OpenAI도 비슷한 도구를 개발했지만 공개하지 않았다. 그래서 의심을 사람의 판단에 맡겨 온 학교에는 징계에 쓸 객관적인 근거가 생긴다는 발상이 매력적이다. 작성 과정을 직접 검토하기 전에 기계 판정을 조사와 처분의 출발점으로 삼을 유인도 커진다.
그러나 판독 결과는 학생의 능력과 직접 연결되지 않는다. 워터마크가 발견되면 Claude에서 생성됐다고 볼 근거가 생기지만, 발견되지 않은 글을 사람이 썼다고 단정할 수는 없다.
- 짧은 문장은 판정하기 어렵고 다른 회사의 모델로 만든 글은 검사 대상이 아니며, 문법과 표현만 고친 경우에는 표식이 남을 단어가 부족하다.
- 충분히 다시 풀어 쓴 문장에서는 표식도 약해지며, 같은 양성 판정 안에 전체 작성을 맡긴 글과 일부 표현만 교정한 글이 함께 들어갈 수 있다.
- 게다가 판독기는 글을 만든 프롬프트나 AI 출력 뒤에 이어진 사람의 작업까지 복원하지 못한다.
워터마크는 특정 모델의 사용 흔적을 찾을 뿐, 학생이 글의 내용을 이해하는지는 검사하지 않는다.
대학들은 왜 AI 탐지기를 끄기 시작했을까?
탐지기라고 사정이 나을까? 워터마크보다 먼저 보급된 AI 탐지 소프트웨어도 같은 한계를 드러냈다. 탐지를 피한 부정행위는 놓치는 데서 끝나지만, 오탐은 직접 작성한 학생을 징계 절차에 세운다. 캐나다 워털루 대학은 사람이 직접 쓴 답안까지 AI로 분류되는 사례가 이어지자 2024년 말 Turnitin의 탐지 기능을 중단했다. 대학 내부 시험에서는 영어가 모국어가 아닌 학생이 원어민보다 약 세 배 자주 걸렸으며, 학적에 영향을 줄 수 있는 도구로 쓰기에는 받아들이기 어려운 오류율이었다. 호주 커틴 대학도 2026년 1월부터 AI 글 탐지 기능을 껐다.
탐지의 정확도를 높이는 동안 학생의 AI 사용은 일상적인 작업 방식이 됐다. 2026년 영국 조사에서는 학부생의 95%가 AI를 사용했고 94%는 과제에 활용했다고 답했으므로 소수의 일탈만 가려내는 방식으로 다루기 어렵다. 제출물 하나로 성취를 판정하는 평가에서는 학생이 직접 생각한 범위와 도구에 맡긴 범위를 구별하기도 어렵다. 그런데 현장은 이미 평가 방식을 바꾸고 있다. 미국 공립대 교수의 57%가 AI 때문에 평가 방식을 바꿨으며, 그중 38%는 손글씨 시험을 다시 도입했다. 프린스턴도 133년간 유지한 무감독 시험을 끝내고 2026년 7월부터 감독을 의무화했다. 사용을 금지할지 정하는 것만으로는 평가의 신뢰를 회복하기 어렵다.
출처를 판정하지 말고, 배움을 확인하라
워터마크가 정교해져도 특정 모델을 거치지 않은 글과 사람이 충분히 고친 글은 남는다. 모든 생성 문장의 출처를 가려내는 기술을 가정해도 확인되는 정보는 누가 문장을 만들었는지에 그친다. 문장 아래 출처 도장만 남는 셈이다. 학생이 같은 내용을 다시 설명하거나 다른 조건에서 적용할 수 있는지는 별도의 평가가 필요하다. 감독 시험 역시 허용되지 않은 도구의 사용을 줄이는 방법이지, 학생이 학기 동안 무엇을 배우고 어떻게 사고했는지 보여 주지는 않는다.
출처 판정과 학습 평가는 서로 다른 일을 한다.
그렇다면 어디를 봐야 할까? 학습 여부는 제출물 바깥에서도 확인해야 한다. 수업 시간에 제한된 시간 안에 글을 쓰게 하고, 결론에 이른 과정을 말로 설명하게 하며, 학위 과정에 맞춰 난도를 높인 과제를 교수가 지켜보는 자리에서 수행하게 할 수 있다. 한 번의 완성본 대신 여러 차례의 수행을 살피면 학생이 피드백을 반영하고 문제를 해결하는 과정도 평가에 포함된다. 자동 탐지보다 느리고 교원의 시간과 비용도 더 들지만, 학생이 직접 수행했다는 사실과 실제로 해낼 수 있는 일을 함께 확인한다. 그런데 워터마크를 해답으로 받아들이면 대학은 정확도를 둘러싼 기술 경쟁에 머물고, 평가 설계를 바꾸는 부담을 미루며 학생의 배움을 직접 확인할 기회도 사라진다.