규제 일정이 늦어지면 준비 시간은 늘어난다. 그러나 AI가 기업의 업무 시스템에 깊이 연결되면 오래된 데이터 한 건도 이전과 다른 방식으로 작동한다.
미뤄진 것은 시계뿐
EU의 고위험 AI 규제가 사라진 것은 아니다. Digital Omnibus on AI가 Regulation (EU) 2026/1744로 확정되면서 Annex III 시스템의 적용일은 2027년 12월 2일, 규제 제품에 들어가는 Annex I 시스템은 2028년 8월 2일로 늦춰졌다. 조화표준(인증 근거로 쓰이는 EU 공식 기술표준)과 적합성 평가 체계가 아직 마련되지 않았다.
그렇다고 일부 의무까지 미뤄진 것은 아니다. 제50조의 투명성 의무는 2026년 8월 2일부터 적용되고, 기존 시스템의 워터마킹 유예는 같은 해 12월 2일 끝난다. AI 리터러시와 금지 관행 조항은 이미 시행 중이다. 연기된 것은 고위험 시스템의 일부 의무뿐이다.
| 대상 | 적용일 |
|---|---|
| 제50조 투명성 의무 | 2026년 8월 2일 |
| 기존 시스템 워터마킹 유예 종료 | 2026년 12월 2일 |
| Annex III 시스템 | 2027년 12월 2일 |
| Annex I 시스템(규제 제품) | 2028년 8월 2일 |
남아 있는 고위험 의무 가운데서도 제10조는 훈련, 검증, 시험 데이터의 대표성과 완전성, 오류 통제를 요구하며 출처와 전처리, 편향 검토 과정까지 문서화하도록 한다. 또한 제12조는 시스템의 전 수명에 걸친 자동 기록을 요구한다. 데이터의 출처와 변경 이력을 평소부터 추적하지 않으면 문서화 요건을 채우기 어렵다.
작은 오류 하나가 AI의 정답이 된다
기존 분석에서는 작은 오류가 집계에 묻혔고, 결과가 이상하면 사람이 다시 확인했다. 그런데 AI 검색은 가장 관련성이 높다고 판단한 정보 조각 하나를 답으로 쓰기 때문에 작은 오류 하나가 답변 전체를 좌우한다.
예를 들어 가격 정보는 원본 추출부터 문서 분할, 임베딩(텍스트를 검색, 비교에 쓰는 숫자 벡터로 변환하는 과정), 벡터 인덱스 생성까지 여러 단계를 거친다. 원본을 고쳐도 재색인이 늦거나 실패하면 옛 가격이 계속 검색된다. 고객의 항의를 받고서야 문제를 알아차리는 경우도 있다. 에이전트는 이 값을 참고하는 데 그치지 않고 실제 업무에 사용할 수 있다.
그렇다면 벤더 데이터는 어떤가. 960만 개 벤더 레코드를 조사한 결과, 비활성 벤더는 최대 94%, VAT 번호 누락은 54%, 은행계좌 누락은 43%에 달했다. 마스터데이터에도 이런 결함이 쌓여 있다. 사람은 계좌가 없으면 지급을 멈추지만, 에이전트는 비슷한 레코드를 골라 넘어갈 수 있다. 폐기된 자재나 사라진 코스트센터가 남아 있으면 잘못된 발주와 회계 처리로 이어진다.
같은 위험이 서비스 장애로 드러난 경우도 있다. 2026년 3월 Amazon 소매 사이트에서는 결제와 계정 접근, 가격 조회가 약 6시간 동안 막혔다. 생성형 AI가 보조한 코드 변경이 여러 중대 장애와 관련된 것으로 조사됐고, 회사는 시니어 엔지니어의 검토를 다시 강화했다. AI가 기간계와 고객 접점에 연결되면 작은 결함도 운영 사고로 이어질 수 있다.
테이블 밖까지 관리해야 한다
기업의 데이터 거버넌스는 주로 테이블과 컬럼을 다뤄 왔다. AI는 문서와 임베딩, 벡터 인덱스, 프롬프트 템플릿, 실행 기록도 사용한다. 분기마다 갱신하는 카탈로그만으로 매일 바뀌는 인덱스의 상태를 어떻게 설명하겠는가.
카탈로그가 놓치는 부분은 삭제와 권한 관리에서 법적 위험이 된다. 유럽데이터보호이사회의 조사에서는 삭제 절차의 문서화 부족과 백업 처리 기준의 부재가 반복적으로 확인됐다. 원본을 지워도 임베딩이 남으면 정보는 계속 검색된다. 문서를 나누는 과정에서 접근 권한이 빠지면, 원장에서는 가려진 급여나 계약 조건이 AI 답변에 노출될 수도 있다.
문서와 임베딩뿐 아니라 실행 기록도 같은 관리 대상이다. 실행 기록의 기술 표준은 아직 확정되지 않았지만 관련 움직임은 이미 나타나고 있다. OpenTelemetry의 에이전트 추적 규약은 여러 플랫폼과 프레임워크에 도입되고 있다. Salesforce의 Informatica 인수 와 Snowflake의 Select Star 인수 도 같은 흐름이다. 리니지(데이터가 어디서 와서 어떻게 가공됐는지 추적하는 이력 정보)는 이제 감사 자료를 넘어 에이전트가 쓸 데이터와 버전을 정하는 운영 정보로 쓰인다.
부채를 갚는 순서
배치된 AI가 실제로 읽는 대상부터 파악한다. 테이블뿐 아니라 위키, PDF, 메신저 대화, 벡터 인덱스도 목록에 넣고 소유자와 갱신 주기, 유효기간, 삭제 경로를 정한다. 가격과 재고처럼 자주 바뀌는 값은 임베딩에 넣지 말고 답변 시점에 원본에서 조회하는 편이 안전하다.
읽기와 쓰기 권한도 나눈다. 지급, 발주, 가격 확정처럼 되돌리기 어려운 작업에는 중복과 참조 무결성을 확인하는 절차를 둔다. 전사 데이터를 한꺼번에 정비하기보다 에이전트가 자주 쓰는 벤더, 자재, 가격부터 손보는 것이 효율적이다.
실행 기록은 기존 데이터 리니지와 같은 식별자 체계로 관리한다. 어떤 문서와 행, 인덱스 버전을 읽고 어떤 도구에 무슨 값을 넘겼는지 남기면 규제 대응과 장애 분석에 함께 쓴다. 준수용 로그를 따로 만들면 두 기록이 서로 다른 사실을 가리킬 위험이 있다. 어느 쪽을 믿을 것인가.
마침 SAP ECC의 메인스트림 유지보수도 2027년 12월 끝나며, 전환에는 보통 12~18개월 이상이 걸린다. S/4HANA 이전 때 소유자와 유효기간, 리니지, 실행 기록을 새 시스템의 기본 속성으로 넣으면 중복 투자를 줄일 수 있다.
고위험 AI 의무의 유예 기간은 데이터 이전과 AI 운영 통제를 함께 정비하는 준비 기간이다.
그러나 규제 일정은 날짜에 따라 적용되지만, 데이터 정비 상태는 그 일정과 별개로 관리해야 한다. 유예가 끝난 뒤에는 준비 기간의 길이보다 시스템의 판단 근거를 얼마나 구체적으로 재현할 수 있는지가 기업의 대응 수준을 결정한다.