자백은 기억이 아니다
드라마 《어느 날》의 김현수에게 가장 불리한 것은 기억의 공백이다. 술에 취해 몇 시간을 기억하지 못하고 사건 현장에는 그만 남았다. 수사기관의 설명이 빈 시간을 채우자 그의 부인은 더 이상 반박하지 못한다.
취기와 공포, 어린 나이는 남의 설명을 자기 기억처럼 받아들이게 한다. 미국에서 DNA 검사로 뒤집힌 오판 가운데 약 30%에는 자백이나 유죄를 인정하는 진술이 있었다. 허위 자백자의 63%는 25세 미만이었다.
이제 수사 현장에는 AI가 들어오고 있다. 경찰은 문서, 음성 인식과 계좌, 전화번호, SNS 교차 분석 등을 도입 중이다. 성착취물 4,215개의 분석 시간도 320시간에서 3시간으로 줄었다. 기억이 끊긴 시간은 전보다 자세히 복원될 수 있다. 문제는 늘어난 기록을 어떤 방향으로 읽느냐다.
봉지 하나가 총이 될 때
드문 질병을 모든 사람에게 검사하면 정확한 검사도 오진을 많이 낸다. 환자보다 건강한 사람이 훨씬 많기 때문이다. 범죄 수사도 같다. 수많은 사람의 얼굴과 위치, 계좌를 대조하면 범인뿐 아니라 우연히 닮거나 동선이 겹친 사람도 걸린다.
2025년 미국 볼티모어에서는 AI 카메라가 고교생의 도리토스 봉지를 총으로 오인했다. 경찰은 학생에게 총을 겨누고 수갑을 채웠다. 같은 해 앤절라 립스는 안면인식 오류로 가본 적도 없는 지역의 사기 사건에 연루돼 다섯 달간 구금됐다.
미국에서 확인된 안면인식 오인 체포는 최소 8건이다. 경찰은 8건 모두에서 기본 수사 절차를 하나 이상 건너뛰었다. AI가 이름을 제시하면 수사관은 그 사람에게 맞는 증거부터 찾기 쉽다. 확률에 불과했던 후보가 조서에서는 ‘일치한 인물’로 기록된다.
확률에 찍는 도장
AI가 추천하고 사람이 최종 판단하면 안전할까. 인사, 여신 분야 현장실험에서 운영자는 공정한 추천을 편향된 추천보다 더 따르지 않았다. 속도와 실적이 중요한 조직에서는 사람의 승인이 형식적인 도장이 되기 쉽다. 이미 의심받던 사람을 AI까지 지목하면 그 결과를 거부하기는 더 어려워진다.
알고리즘 자체도 틀릴 수 있다. 유전자 분석 프로그램 STRmix는 소스코드를 공개한 뒤에야 코딩 오류 1건이 호주 퀸즐랜드주 형사사건 60건에 영향을 미친 사실이 드러났다. 법원은 그전까지 내부 계산을 확인하지 못한 채 결과를 과학적 증거로 받아들였다.
유럽 AI법은 그래서 법집행, 사법 보조 AI를 고위험 시스템으로 분류하고 기록과 인적 감독을 요구한다. 사람이 마지막에 서명한다고 안전해지지 않는다. AI의 결론을 독립적으로 검증하고 뒤집을 수 있는지가 관건이다.
결백을 조회하는 시대
디지털 기록은 누명을 벗기기도 한다. 2016년 미국 위스콘신에서 살인 혐의로 체포된 더글러스 디트리는 활동량 기록으로 알리바이를 입증했다. 휴대전화 위치기록은 다른 용의자를 가리켰다.
스마트워치와 차량, 결제, 사진, 출입 기록은 사람이 기억하지 못하는 시간을 대신 증언한다. 그러나 이런 자료는 기기와 서비스를 꾸준히 이용한 사람에게만 남는다. 가난하거나 고령이거나 디지털 흔적이 적은 사람은 자신의 부재를 입증할 수단도 적다.
김현수가 지금 체포된다면 휴대전화 센서와 출입 기록, 배달앱, 골목 카메라가 끊긴 기억을 메울지 모른다. 데이터가 많아지면 부실수사에 따른 오판은 줄 수 있다. 반면 기록이 적은 피의자는 수사기관의 방대한 자료에 맞서면서도 자기 쪽 증거는 내놓기 어렵다.
그래서 방어 측에도 같은 검색 능력이 필요하다. 미국 이노센스 센터는 AI 법률 도구를 도입한 뒤 인신보호 청원 제출을 세 배 이상 늘렸다. 수사기관은 조회한 자료의 목록을 남기고 피의자는 사라지기 전의 로그를 보전할 수 있어야 한다. 방어 측이 코드와 오류율을 검증할 수 없는 알고리즘이라면 그 결과는 유죄의 근거가 되지 못한다.