정답은 왜 55위로 밀렸나
NIST 사이버보안 프레임워크에서 랜섬웨어 이후의 백업 관행을 물었다. 정답은 백업의 수행, 유지, 시험을 규정한 PR.IP-4였다. 하지만 코사인 유사도 검색에서는 55쪽 중 55위였고 키워드 검색에서는 1위였다. 질문 속 ‘ransomware’, ‘attack’, ‘available’이 검색 결과를 다른 데이터 보호 조항으로 끌고 갔다.
생성 모델은 검색기가 가져온 문맥 안에서 답을 만든다. 정답이 top-k(검색 결과 상위 k개 후보) 밖으로 밀리면, 비슷하지만 틀린 조항을 근거로 그럴듯한 답을 쓴다. 조항 코드와 인용까지 붙으면 사람도 쉽게 속는다.
법률 전문 서비스도 예외는 아니다. 스탠퍼드 RegLab의 202개 질의 평가에서 리걸테크 서비스 Lexis+ AI의 환각률은 17%, Westlaw AI-Assisted Research는 33%였다. 더구나 모른다고 답하기보다 추측할 때 점수를 얻기 쉽다. 잘못 찾은 문맥과 추측이 만나면 자신감 있는 오답이 나온다.
이름이 닮은 약
의약품 업계도 비슷한 이름 때문에 생기는 오류를 오래 다뤄왔다. ISMP의 혼동 약품명 목록에는 약 528쌍이 실렸다. 철자가 비슷해도 성분과 용량은 다를 수 있다.
의료계는 다른 철자를 대문자로 표시하고 FDA는 혼동 사례에 따라 표기 변경을 권고해 왔다. 하지만 대소문자 강조의 효과는 연구마다 엇갈린다. 바코드로 고유 식별자를 확인하는 편이 더 확실하다.
기업 문서도 서로 닮았다. 정책, 계약서, SOP는 기존 문구를 재사용하지만 실제 효력은 세부 조항에서 달라진다. 금액, 기한, 허용 여부를 판단할 때 필요한 것은 비슷한 문서가 아니라 정확한 조항이다.
유사도 검색은 자료 탐색에 유용하지만 적용 조항을 확정하지는 못한다. 키워드, 문서 구조, 임베딩으로 후보를 찾고 조항 ID로 범위를 좁혀야 한다.
아직 살아 있는 조항
법률가는 관련 판례를 찾은 뒤 지금도 유효한지 따로 확인한다. 셰퍼드 인용 색인으로 판례가 이후 파기, 번복, 비판됐는지를 확인한다. 검색 결과는 현재도 유효한 법인지 다시 살핀다.
IETF도 RFC 헤더에 문서 관계를 기록한다.
Obsoletes는 기존 RFC 전체를 대체하고 Updates는 일부를 변경한다.
이런 정보가 본문에만 묻혀 있으면 검색기로는 문서의 현재 상태를 가리기 어렵다. (RFC 읽는 법)
ISO 9001 7.5.3은 문서의 사용뿐 아니라 변경, 보존, 폐기까지 통제하도록 요구한다. 폐기된 초안과 승인된 정책을 같은 인덱스에 넣으면 권위나 시행일보다 문장의 유사성이 순위를 좌우한다. 자료가 낡은 위키와 SharePoint에 흩어져 있다면 에이전트도 현행 판본을 가리기 어렵다.
에이전틱 검색은 성능을 크게 높였다. Microsoft 연구에서는 BRIGHT recall@1이 8.41%에서 49.6%로, FinanceBench 정답률이 24.24%에서 92%로 상승했다. 그러나 이 평가는 정답 문서를 찾았는지만 볼 뿐 현재 효력은 따지지 않는다. 정책 판정에는 개정문, 예외 승인, 시행일 확인도 필요하다.
찾고, 거르고, 답하라
지식베이스는 문서가 아니라 ‘승인된 항목’을 중심으로 관리해야 한다. 답변 근거로 쓰려면 항목이 다음을 갖춰야 한다.
- 발효일과 폐기일
- 승인 주체
- 대체 관계
- 조항 ID
나머지는 검색 결과에 보여도 인용하지 않는다.
검색기는 후보를 모으고 대장은 권위, 유효 기간, 대체 관계로 거른다. 모델에는 승인된 조항만 보낸다. 답변도 자유로운 글보다 값, 근거, 신뢰도, 상충 증거를 정해진 필드로 반환하는 편이 안전하다. 근거와 answer_found를 필수로 두는 답변 계약은 오류를 한 번 더 막는다.
‘기록된 답 없음’도 정상적인 결과여야 한다. answer_found=false와 빈 근거 목록을 반환하고 찾은 조항이 왜 답이 아닌지만 짧게 설명하면 된다. 무응답을 실패로 취급하면 시스템은 빈칸을 추측으로 채운다.
처음부터 모든 문장을 등재할 필요는 없다. 자주 묻는 조항부터 승인하고 나머지는 참고 자료로 두면 된다. 등재되지 않은 영역에는 기록된 답이 없다고 반환한다.
법률의 유효성 확인, RFC의 대체 메타데이터, 의약품의 바코드는 모두 같은 원칙을 따른다.