AI 도입, 기술이 가장 쉬웠다
스탠퍼드 디지털이코노미랩이 7개국 41개 조직의 AI 도입 사례 51건을 조사했다. 조직이 꼽은 난제의 77%는 변화관리, 데이터 품질, 업무 절차 재설계였다. 기술은 오히려 가장 쉬운 부분에 가까웠다. 통신사 임원도 어려운 작업은 프로세스 문서화와 데이터 구조 정비라고 답했다.
그런데 같은 용도의 AI도 핀테크에서는 몇 주 만에 배포됐지만 대형 은행에서는 여러 해가 걸렸다. 차이를 만든 것은 모델보다 승인 절차, 기존 시스템, 사용자의 수용 여부였다. 조사 사례의 42%에서는 모델을 바꿔도 결과에 큰 차이가 없었다.
효과는 언제 나타날까. AI의 효과도 도입 초기에는 늦게 나타난다. 경제학자들은 이를 생산성 J커브 라고 부른다. 새 기술을 도입한 초기에는 프로세스 개편과 교육 같은 무형투자가 생산성 향상을 가린다고 본다. AI를 구매하는 일보다 AI가 일할 수 있도록 조직을 바꾸는 일이 더 오래 걸린다.
AI 성공의 61%는 실패 뒤에 왔다
성공한 프로젝트의 61%에는 앞선 실패가 있었다. 첫 시도는 대개 기존 업무를 그대로 둔 채 AI만 덧붙였다. 현업이 목표와 판단 기준을 정하지 않으면 오류가 나도 고칠 사람이 정해지지 않는다.
실제로 한 번역 서비스 기업의 채용 자동화도 편향과 절차상의 결함 때문에 중단됐다. 회사는 업무 흐름과 검증 절차를 다시 설계했다. 그 뒤 직무당 지원자 선별 시간은 3시간에서 3분으로 줄었다. 모델 자체보다 결과를 채용 성과와 연결해 검증하는 과정이 달라진 셈이다.
한편 한 물류 기업은 연간 10만 건이 넘는 계산서 처리를 자동화하기 전에 750개 양식을 정리하고 현업 전문가가 수천 건의 결과를 검증했다. 소매은행은 개인정보를 지운 데이터만 클라우드로 보내고 내부에서 원래 값을 복원하는 구조를 만들었다. AI가 제각각인 입력을 처리하더라도 업무 규칙과 보안 기준은 조직이 정한다.
그런데 2026년 3월 기술 리더 650명을 대상으로 한 별도 조사에서 78%는 AI 에이전트 파일럿을 운영했지만 전사 규모로 확대한 비율은 14%에 그쳤다. 파일럿과 실제 운영 사이에는 이만큼 간격이 있다. 사용량이 늘면 평가, 모니터링, 사고 대응과 같은 운영 책임이 필요해진다.
AI 도입의 병목은 통제 부서다
저항은 어디서 먼저 나올까. 도입 저항은 일반 사용자보다 법무, 인사, 리스크, 준법 같은 통제 부서에서 더 자주 나왔다. 통제 부서가 저항의 원천이었던 사례는 35%, 현업 사용자는 23%였다. 사고가 나면 조사와 책임이 통제 부서에 집중되므로 승인을 신중하게 할 수밖에 없다는 말이다.
이들을 마지막 승인자로만 두면 병목이 생긴다. 반대로 통제를 방치하면 직원들이 공개 AI 도구를 비공식적으로 사용한다. 성숙한 조직은 통제 부서를 초기 설계에 참여시키고, 공통 정책은 중앙에서 관리하되 배포와 결과에 대한 책임은 현업에 맡겼다. 앞서 본 소매은행의 개인정보 처리 구조도 보안 요구를 제품 설계에 처음부터 반영한 사례다.
그러나 임원의 역할은 예산 승인으로 끝나지 않는다. 부서 사이의 장애물을 해결하고, 실패에서 얻은 정보를 다음 설계에 쓸 수 있게 해야 한다. 첫 실패의 책임만 묻는 조직에서는 개선된 두 번째 시도가 나오기 어렵다.
사람은 어디까지 승인해야 하나
사람이 모든 결과를 승인해야 할까. AI가 업무의 80% 이상을 처리하고 사람이 예외만 검토한 사례의 생산성 향상 중앙값은 71%였다. 모든 결과에 사람의 승인을 붙인 사례는 30%였다. 다만 업무 유형이 달라 수치만으로 두 방식을 단순 비교하기는 어렵다. 그래도 이 격차는 모델 성능뿐 아니라 권한 배분에서도 비롯된다.
예외 검토 방식에는 준비가 필요하다. 정상 처리와 예외의 기준을 미리 문서화하고, 오류가 났을 때 중단 권한과 책임을 누가 맡을지 정한다. 사람과 기계 사이의 판단 경계가 AI의 도입 범위를 결정한다.
생산성 향상이 언제나 감원으로 이어진 것도 아니다. 인력 감축이 주된 결과였던 사례는 45%였고, 나머지는 채용 억제나 인력 재배치, 인원 유지로 이어졌다. 한 기술 기업은 보안 알림 처리에 필요한 인력을 6명에서 1.5명분으로 줄이고 남은 인력을 위협 분석과 보안 설계로 옮겼다. 에듀테크 기업도 개발 시간을 20~30% 절약한 뒤 인원을 줄이는 대신 제품 출시를 앞당겼다.
다만 기업 내부의 재배치가 노동시장 전체의 안정을 보장하지는 않는다. 경제 전반의 대량 실직은 아직 확인되지 않았지만, AI 노출도가 높은 직군의 22~25세 고용은 비노출 직군의 동년배 추세보다 19% 낮았다. 숙련자를 재배치하는 대신 신규 채용부터 줄이는 선택은 청년층에 먼저 영향을 준다.
AI를 사기 전, 조직은 준비됐는가
결국 업무 절차가 문서화돼 있고 통제 부서가 설계에 참여했으며 예외 기준까지 정한 조직에는 기술 연결만 남는다. 준비가 없는 조직은 구매한 뒤에야 데이터 책임자와 승인 경로부터 찾아야 한다. 배포 속도는 결국 모델을 사기 전에 무엇을 정비했는지에 달려 있다.
도입은 모델 선정이 아니라 다음 질문에서 시작된다.
- 누가 프로세스를 바꿀 권한을 갖는가.
- 무엇을 정상 처리와 예외로 구분할 것인가.
- 실패 비용은 누가 부담하고, 사고가 나면 누가 중단시킬 것인가.
그러나 성과 측정 기준도 파일럿 수나 벤치마크 점수와는 다르다. AI의 자율 처리 비율, 다시 설계한 업무 절차의 수, 통제 부서의 초기 참여율처럼 실제 운영 변화를 보여주는 지표가 필요하다. 경쟁력은 계약한 모델의 이름보다 프로세스와 권한을 얼마나 잘 설계했는지에 달려 있다. 그 설계를 미루면 격차는 사라지지 않는다.