86%가 시험했지만, 믿고 맡긴 곳은 34%

86%의 파일럿 뒤에 숨은 34%의 신뢰

기업용 생성형 AI는 실험 단계를 지나 실제 업무에 쓰이기 시작했다. 그러나 테크 기업에서도 AI 에이전트를 사용하는 비율은 한 자릿수에 머문다. 역할이 줄어들거나 통제권을 잃을 수 있다는 우려, 컨설팅과 맞춤형 연동이 필요한 도입 과정, 민감한 데이터 접근에 대한 불신이 확산을 막고 있다. 새 기능을 추가하는 것만으로는 해결하기 어렵다.

통합 플랫폼 기업 Boomi가 의뢰한 시장조사기관 Forrester 조사에 따르면 조직의 86%가 시범 운영을 마쳤지만 에이전트의 행동을 신뢰한다는 응답은 34%에 그쳤다. 준비도가 낮은 조직 가운데 77%는 충분한 검증 없이 운영 환경에 배포했다. 이들은 컴플라이언스 위반과 고객 이탈, 장애, 재작업으로 평균 210만 달러의 추가 비용을 부담했다.

시연한 에이전트를 실제 업무에 배치하려면 인증과 권한 관리, 대규모 데이터 처리, 안전한 행동 범위, 장기 상태 관리, 조직 구성원의 신뢰 문제를 해결해야 한다. 기능보다는 시스템과 운영에 가까운 과제다. 하버드 비즈니스 리뷰 설문에서 에이전트에 핵심 업무를 전적으로 맡길 수 있다고 답한 기업은 6%에 불과했다. 43%는 일상 업무에만 사용했고 39%는 사람의 감독이 필요한 비핵심 업무까지만 허용했다. 배포 건수가 많다고 해서 중요한 업무에 깊이 활용하고 있다는 뜻은 아니다.

읽기 권한만 주고 실행까지 바라는 착각

생성, 분석, 실행은 필요한 조건이 각각 다르다.

생성 단계에서는 프롬프트를 바탕으로 초안, 요약, 보고서를 작성한다.
분석 단계에서는 여러 시스템의 데이터를 조회해 병목과 위험을 파악하고 대안을 제시한다.
실행 단계에서는 회의록에서 할 일과 담당자, 기한을 추출하고 알림을 보낸다.

생성 단계에는 문서 열람 권한과 결과물을 검수하는 절차가 필요하다. 분석 단계로 넘어가려면 여러 시스템을 조회할 권한과 분석에 쓸 수 있는 데이터가 갖춰져야 한다. 실행 단계에는 생성, 편집, 업무 할당, 외부 시스템 연동 권한이 필요하며 결과를 책임질 담당자와 결재선도 정해져야 한다. 읽기 전용 권한만으로는 초안 작성보다 넓은 업무를 맡기기 어렵다.

Deloitte 조사에 따르면 부분 배포는 42%, 기능 확장은 43%였으나 멀티에이전트(여러 에이전트가 협업하는 구조)를 대규모로 운영한다는 응답은 15%에 그쳤다. 데이터 기반 부족은 72%, 신뢰와 거버넌스 부족은 70%, 통합 비용과 복잡성은 67%가 장벽으로 꼽았다. 업무 프로세스가 준비됐다는 응답은 16%였고 고도로 준비됐다는 응답은 5%였다. 기존 절차를 그대로 둔 채 도구만 추가하면 단기간에 성과를 내기는 쉽지만 여러 기능이 연결된 실행 단계로 발전하기는 어렵다.

에이전트 200개는 왜 업무 하나를 못 잇는가?

CRM만 조회하는 영업 에이전트나 티켓만 처리하는 IT 에이전트는 특정 업무만 자동화한다. 캠페인 성과와 매출 파이프라인을 연계하고, 버그 건수에 맞춰 스프린트 우선순위를 조정하려면 부서 간 데이터 연동이 필요하다. 매출과 운영, 인력 현황을 종합해 자원을 배분할 때도 마찬가지다.

Anthropic과 마케팅 기술 기업 Material이 기술 리더 500명 이상을 조사한 결과, 여러 단계로 이뤄진 워크플로를 배포한 비율은 57%였지만 여러 팀이 참여하는 프로세스를 배포한 비율은 16%에 그쳤다. 주요 과제로는 기존 시스템 통합 46%, 데이터 접근성과 품질 42%, 변화관리 39%가 꼽혔다.

부서마다 별도로 배포한다고 문제가 해결되지는 않는다. 생성형 AI 기업 Writer 조사에서 조직의 79%는 AI 애플리케이션을 부서별로 개발한다고 답했다. 임원의 36%는 공식적인 감독 계획이 없었으며, 35%는 문제가 생긴 에이전트를 즉시 중단할 수 없었다. 일부 기업은 에이전트를 최대 200개까지 운영했지만 업무 시스템과 연동하지 못했다. 이런 파일럿은 수만 늘어날 뿐 사용자가 쓰지 않거나 다른 방법을 찾게 된다.

열심히 자동화할수록 평가가 나빠지는 역설

사람이 목표와 전략을 정하고 주요 사안을 승인하는 동안 에이전트가 리드 평가, 캠페인 초안 작성, 일정 점검, 일일 보고를 맡는다면 직무도 달라져야 한다. 사람은 실무를 직접 처리하는 대신 결과를 검수하고 예외 상황에 대응하며 목표를 관리한다. 역할기술서와 KPI가 여전히 처리량을 기준으로 삼으면 에이전트를 적극적으로 활용한 사람이 평가에서 불이익을 받는다.

Deloitte 조사에서 리더의 75%는 완전 자동화보다 사람과 에이전트의 협업을 선호했다. 그러나 운영 방식을 정한 조직은 절반에도 미치지 못했다. 직무 혼란을 예상한 비율은 향후 12~18개월 내 43%, 2~3년 내 72%였으며 절반은 인력 전환을 위한 투자도 부족하다고 답했다. 교육과 함께 권한과 평가 기준, 사람의 개입이 필요한 조건도 바꿔야 한다.

에이전트의 권한은 업무와 위험도에 따라 나누고 모든 작업을 기록해야 한다. 읽기, 생성, 편집 범위를 에이전트별로 정한 뒤 수행한 작업과 이유, 예정된 작업을 기록한다. 재무 확약, 고객 소통, 컴플라이언스 업무는 실행 전에 사람이 승인하거나 모의 실행으로 결과를 확인한다.

삭제 전 확인과 같은 안전 절차를 프롬프트에만 맡겨서는 안 된다. 시스템이 민감한 요청을 감지해 승인 대기열로 보내고 사람이 승인하거나 거부할 때까지 실행을 차단해야 한다.

도입 초기에는 절약한 시간을 주로 측정한다. 운영 경험이 쌓이면 문제를 발견한 뒤 조치하기까지 걸린 시간, 부서가 실시간 공유 데이터를 활용하는 정도, 일상 업무에서 에이전트를 실제로 사용하는 비율도 살핀다. 접근 권한을 부여했더라도 실제 사용이 없다면 성과로 평가하기 어렵다.

처음에는 위험이 낮고 효과를 빠르게 확인할 수 있는 업무 두세 개를 골라 시범 운영한다. 권한 관리와 작업 기록, 사람의 승인 절차를 적용하고 부서 간 데이터를 연결한다. 이어 KPI와 결재선, 역할기술서를 검수와 예외 처리 업무에 맞게 고친다. 운영 결과를 확인하면서 에이전트의 실행 범위와 고위험 업무 참여를 단계적으로 확대한다.

출처

#에이전트 #기업 AI #자동화