AI 도입 비용은 예산에 잡힌다. 기존 운영 방식이 만드는 비용은 별도 항목으로 계산되지 않는다. 새 도구를 얹으면 두 비용이 한 예산 안에서 함께 반영된다.
장부 밖에 쌓인 부채
Global 2000 기업에 묶인 가치는 약 17조9000억 달러다.
| 부채 유형 | 규모 |
|---|---|
| 데이터 부채 | 7조7000억 달러 |
| 프로세스 부채 | 7조7000억 달러 |
| 기술 부채 | 1조5000억 달러 |
| 인재 부채 | 1조 달러 |
기술 부채는 전체의 8%에 불과하다. 그렇다면 기업이 IT 교체에 집중하는 사이 더 큰 문제는 장부 밖에 남아 있다.
이 부채는 낡은 절차와 부정확한 데이터를 방치할 때 생긴다. 별도 비용으로 기록되지 않고 직원의 확인, 수정 업무에 섞여 잘 보이지 않는다. 임원의 85%는 이런 부채가 AI 성과를 막는다고 답했다. 하지만 절반이 넘는 기업은 이를 해결할 예산조차 따로 두지 않았다.
예산이 비어 있는 사이 사람은 임시방편으로 낡은 업무를 처리하지만 AI 에이전트는 그러지 못한다. 사람이 처리할 때는 단순 지연에 그쳤던 문제가 자동화 환경에서는 업무 중단으로 이어진다.
코어 시스템을 바꿔도 남는 문제
기업의 핵심 시스템은 평균 10년가량 됐다. 별도 조사에서는 개발자가 업무 시간의 42%를 기술 부채에 쓰는 것으로 나타났다. SAP ECC(SAP의 구형 전사자원관리 시스템) 지원 종료를 앞두고 있어 S/4HANA 전환도 시급하다. 그러나 응답 기업의 43%가 이미 최적화 단계이고 31%가 전환 중인데도 AI를 본격 활용하는 비율은 16%에 그쳤다. 새 시스템만으로 AI 역량이 생길까.
문제는 시스템 안의 데이터와 업무 방식이다. 기능 데이터의 53%는 품질이 낮고, AI에 바로 쓸 수 있는 데이터는 33%뿐이다. 모듈마다 고객 식별자가 다르고 결산 조정이 엑셀에 남아 있다면 코드를 바꿔도 일은 달라지지 않는다.
그래서 DuPont은 SAP 시스템 17개를 없애는 데 그치지 않았다. 50TB가 넘는 데이터를 관리 체계가 적용된 계층으로 옮기고 소유권도 다시 설계했다. DuPont의 이관은 12개월 안에 끝났다. 유사한 방식의 데이터 이관 사례들은 레거시 운영비를 최대 80%까지 줄인 것으로 나타났다. 시스템 전환은 완료일로 끝나지 않으며, 데이터와 업무 관행까지 정리해야 효과가 난다.
자동화가 오류까지 키울 때
기업 프로세스 가운데 표준 절차로 문서화된 비율은 46%뿐이다. 48%는 처음부터 끝까지 수작업이나 사람의 개입이 필요하다. 직원 근무시간의 약 40%가 이런 비효율에 쓰이고, 데이터 품질 문제 때문에 분석, AI 사업의 42%가 지연되거나 실패한다.
이런 비효율 위에서 자동화는 좋은 절차와 나쁜 절차를 가리지 않고 똑같이 빠르게 만든다. RPA(정해진 규칙대로 반복 작업을 수행하는 자동화 기술)가 정해진 명령을 반복했다면 AI 에이전트는 다음 행동까지 스스로 고른다. 문서가 없는 업무에서 과거 로그를 기준으로 판단하면 낡은 예외 처리와 임시 우회로도 그대로 학습한다.
사람은 이상 징후가 보이면 작업을 중단하지만, 에이전트는 허용된 범위 안에서 오류를 계속 확산시킨다.
기업 리더의 75%가 에이전틱 AI를 도입하고 있다고 답했지만 실제 운영에 투입한 곳은 많지 않다. 보안 의사결정자의 49%도 이를 우려 대상으로 꼽았다. 여기에 더해 기업의 4분의 1 이상은 저품질 데이터 탓에 매년 500만 달러 넘게 잃는 것으로 추산한다. 정돈된 환경에서 성공한 파일럿도 범위를 넓히면 오래된 부채와 마주칠 수밖에 없다.
시스템보다 업무 경로를 보라
기업은 보통 시스템이나 기능별로 AI 예산을 짠다. 하지만 에이전트는 여러 시스템을 잇는 업무 경로에서 움직인다. 주문 하나가 CRM, ERP, 물류, 정산을 거친다면 가장 취약한 구간이 전체 성능을 결정한다. 평균 데이터 품질이 높아도 고객 식별자가 시스템마다 다르면 자동 처리는 중간에 멈춘다.
시스템별 성숙도보다 AI가 맡을 업무의 전체 경로를 먼저 살피는 편이 우선순위를 정하는 데 더 유효하다. 각 구간의 데이터, 프로세스, 기술, 인재 부채를 따져 보면 우선순위도 달라진다. 어떤 업무는 시스템 교체보다 마스터데이터 정의나 승인 절차 문서화가 먼저다.
먼저 성과를 낸 6%
실제로 부채 해소 효과를 검증한 기업은 전체의 6%다. 이들은 기반을 한꺼번에 뜯어고치기보다 부채가 적고 데이터가 정리된 좁은 구간에서 먼저 성과를 낸 뒤, 그 수익으로 다음 구간을 정비했다.
한편 AI 자체를 부채 상환에 활용할 수도 있다. 모건스탠리는 사내 도구로 COBOL, Natural, PERL 코드 1700만 줄 이상을 자바와 파이썬으로 현대화했다. 수작업 100만 시간 이상을 줄였고, 일주일 걸리던 작업을 반나절로 단축했다. 오래된 코드와 문서를 먼저 정비하고, 준비된 구간부터 에이전트에 맡기는 방식이다. 예산 규모가 성과를 결정할까. 모건스탠리 사례처럼, 부채를 어디서부터 갚을지 정하는 판단이 예산 규모보다 AI 성과에 더 크게 영향을 미친다.
결국 AI 예산과 운영 개선 예산을 나누는 관행은 성과의 귀속도 분리한다. 두 예산을 통합해서 운영하는 기업은 AI 사업을 모델 성능보다 실제 업무 처리의 변화로 평가한다.