회사의 업무는 담당자가 바뀌어도 계속되지만 판단의 근거와 맥락은 인계되지 않는 경우가 많다. 문서가 충분해 보이는 조직에서도 누군가에게 다시 물어야만 확인되는 정보가 남는다.
회사 지식은 아직 사람의 머릿속에 있다
문서 양이 많다고 조직의 기억이 쌓일까. 담당자가 없어도 현재 유효한 사실과 결정권자, 변경 이력을 확인할 수 있어야 한다. 2018년 조사에서는 기업 지식의 42%가 문서화되지 않은 채 직원의 머릿속에 남아 있었다. 핵심 직원이 내일 퇴사해도 남은 사람들이 업무를 그대로 이어갈 수 있는 조직은 많지 않다.
그런데 위키에는 누군가 일부러 적은 내용만 남는다. 회의와 채팅에서 나온 판단은 문서에 반영되지 않기 쉽고, 기존 문서도 갱신하지 않으면 오래된 내용 그대로 남는다. 검색은 관련 자료를 찾아줄 뿐 무엇이 최신인지는 판단하지 못한다. 데이터 웨어하우스도 이탈률은 보여주지만, 그 수치가 오른 이유까지 설명하지는 않는다.
찾는 것과 아는 것은 다르다
검색으로 얻는 것은 후보 문서일 뿐이다. 조직에 필요한 것은 출처와 시점, 적용 범위가 붙은 ‘확인된 사실’이다. 업무 시간의 약 25%가 정보 검색에 쓰였고, 절반은 다른 팀이 이미 한 일을 반복했다는 Atlassian 조사 결과가 있다. 56%는 답을 얻기 위해 동료에게 묻거나 회의를 잡아야 했다. 문서를 찾은 뒤에도 사실 확인이 남기 때문이다.
그래서 회의 요약을 쌓아두는 것만으로 충분할까. 넷30(거래 후 30일 이내 결제)에서 넷60(60일 이내 결제)으로 바뀌었고 누가 언제 승인했는지처럼 구체적 사실을 추출해야 한다. CRM 계정과 계약서의 법인명이 같은 고객을 가리킨다는 연결도 필요하다. 그래야 AI가 하나의 고객과 결정을 여러 개로 오해하지 않는다.
권한 역시 사실 단위로 관리하는 게 원칙이다. Microsoft 365 Copilot 사례처럼 AI는 기존에 과도하게 공유된 자료를 훨씬 쉽게 드러낼 수 있다. 그만큼 접근 통제와 감사 기록이 중요하다.
낡은 사실이 돌아오지 않게 하려면
정보를 저장하는 것보다 낡은 정보를 걸러내는 일이 더 어렵지 않은가. 정책 1판과 3판이 함께 검색되면 AI는 하나를 임의로 고르거나 두 내용을 섞는다. 실제 연구에서도 검색 근거에 모순이 섞이자 요약 품질이 평균 18.2% 떨어졌다.
사실마다 유효 기간을 기록해 두면 이런 혼선을 줄일 수 있다. 예컨대 Zep의 Graphiti는 과거 사실을 삭제하지 않고 무효화한다. 예전 결제 조건은 현재 답변에서 제외하되 언제까지 유효했고 무엇으로 바뀌었는지는 남겨 둔다. 삭제하면 이력이 사라지고 그대로 두면 낡은 정보가 되살아나기 쉽다.
결국 공유 기억이 없으면 AI 에이전트도 매번 배경부터 다시 파악한다. Anthropic의 멀티에이전트 연구 시스템은 일반 대화보다 약 15배 많은 토큰을 썼다. 반면 컨텍스트 편집만 적용한 평가에서는 토큰이 84% 줄었고, 메모리와 컨텍스트 편집을 함께 적용한 별도 평가에서는 성능이 39% 높아졌다. 상태를 이어받는 능력이 비용과 품질을 함께 좌우한다.
회사가 상태를 소유하려면
위키는 글을 저장하고 검색은 문서를 찾아준다. 웨어하우스는 수치를 집계할 뿐이다. 하지만 현재 유효한 사실을 대상, 시간, 권한과 함께 관리하려면 별도의 체계가 필요하다. AWS가 AgentCore Memory에 장기 기억용 알림 과 메타데이터 필터 를 추가하고, Forrester가 메모리를 에이전트 아키텍처의 독립 영역으로 분류한 것 도 이런 흐름을 보여준다.
하지만 도구는 무엇을 공식 사실로 볼지 정해주지 않는다. 기준과 책임자는 회사가 직접 정해야 한다. 핵심 담당자 없이 현재 가격 조건, 번복된 결정의 이유, 지난 분기에 폐기한 방침 같은 질문 20개에 답해보라. 사람에게 물어야 한다면 조직의 상태는 아직 시스템에 없다.
그래서 구축은 더 많이 기록하는 일보다 만료 규칙을 정하는 데서 출발한다. 자동 사실 추출, 시스템 간 동일 대상 연결, 유효 시점 관리, 사실 단위 권한과 감사 기록이 핵심이다. 사실을 확정해 재사용하는 회사와 매번 배경부터 다시 찾는 회사 사이의 차이는 AI 에이전트가 늘어날수록 벌어진다.
AI가 조직에서 맡는 일이 많아질수록 어떤 정보를 기억하는지 못지않게 언제 그 정보를 의심하는지가 중요해진다.
회사의 운영 수준은 저장한 자료의 양이 아니라 시스템이 답하지 못하는 질문에서 드러난다.