AI 자동화는 시연을 마친 뒤부터 부딪히는 문제가 달라진다. 개인의 편의 도구가 여러 부서의 업무로 넘어가면 기술보다 운영의 빈틈이 먼저 드러난다.

직원의 PC에 갇힌 자동화

미국의 법원 문서 송달, 제출 대행사 ABC Legal은 2026년 초 Claude Enterprise를 전사에 도입해 7월에는 직원 약 310명이 매일 AI를 썼지만, 도입 속도만큼 운영 체계는 갖추지 못했다.

자동화는 직원들의 PC에서 제각각 돌아갔고, 회사는 실행 현황과 오류, 비용을 한눈에 볼 수 없었다. 담당자가 퇴사하면 업무 지식과 실행 환경까지 함께 사라질 판이었다.

다른 회사라고 사정이 나을까? 2026년 3월 기술 리더 650명 중 78%가 AI 에이전트를 시험했지만 전사로 확대한 곳은 14%뿐이었고, 실제 업무로 쓰려면 버전 관리와 실행 기록, 비용 추적이 뒤따라야 했다. 그래서 회사는 이를 IT 부서에 떠넘기지 않고 재무, 마케팅, 운영, 개발 부서에서 뽑은 직원 15명으로 운영위원회를 꾸렸다.


AI보다 어려웠던 깃

막힌 곳은 프롬프트였을까? 위원들은 깃에서 먼저 막혔다. CTO 브랜든 풀러가 풀리퀘스트(PR)를 설명하자 달리기 용어로 알아들은 사람도 있었다. 몇 주 뒤, 이들은 서로 PR을 보내고 검토했다.

이후 위원회는 이벤트형과 예약 실행형, 두 가지 저장소 템플릿만 써서 제작 방식을 단순하게 유지했다. 설정과 프롬프트, 배포 파일, 문서를 한 폴더에 넣고 모든 변경을 PR로 검토했다. 메인 브랜치에 합치면 자동으로 배포됐다. 복잡한 인프라는 감추되 수정 이력과 롤백 수단은 남겼다.

결과는 어땠을까? 첫 주에 위원 15명 모두 에이전트를 만들었고, 둘째 주에는 각자 자기 팀을 교육했다. 한 달 뒤 운영 중인 에이전트가 50개를 넘었다. 사건 자료를 고객사에 보내는 일, 전자제출 반려 원인을 찾는 일, 코드의 보안 결함을 검사하는 일이 차례로 자동화됐다. 반려 원인 분석은 몇 시간에서 1분으로 줄인 셈이다.


이모지가 코드가 될 때

운영 과정도 자동화했다.

  • 업무 에이전트가 결과를 남기면 ‘하베스터’가 슬랙 답글과 이모지를 모았다.
  • ‘튜너’는 이를 분석해 프롬프트와 설정 수정안을 PR로 올렸다.
  • 적용 여부는 사람이 결정했다.

같은 고리는 자매회사에서도 돌아갔다. Docketly에서는 잘못된 배송에 이모지를 달면 에이전트가 규칙 수정안을 만들었다. 승인된 변경은 일주일 안에 운영 규칙에 반영됐다. 현장 의견은 곧바로 개선으로 이어졌다.

권한도 성과를 확인한 뒤 조금씩 넓혔다. 송달 완료 건을 심사하는 ‘차비스’는 사람과 판단이 약 98% 일치한 뒤에야 더 많은 일을 맡았다. 결제 처리도 실제 입력 전에는 사람의 승인을 받았다. 필요할 때 사람이 개입하고 멈출 수 있는 구조를 남겨뒀다. 그래서 프롬프트와 규칙을 저장소에서 관리하면 AI의 판단 변화도 코드처럼 검토할 수 있다.


AI 인건비를 절반으로 줄인 계산법

ABC Legal은 성과를 사용자 수가 아니라 작업 단가로 계산했다. 에이전트가 아낀 시간과 금액을 실행비용과 비교했다. 그 결과 자동화한 업무의 인건비가 약 50% 줄었다.

처음부터 이익이 나지는 않았다. 미숙한 프롬프트와 비싼 모델 때문에 비용이 더 들기도 했다. 이후 반복 작업에는 Haiku, 일반 업무에는 Sonnet, 복잡한 추론에는 꼭 필요할 때만 Opus를 썼다. 사용량은 늘었지만 2026년 7월부터 지출은 줄었다.

그런데 모델 계층을 나눈 차이는 더 크게 벌어졌다. 프런티어 모델만 쓴 작업당 비용은 10,565달러까지 늘었지만, 계층형 라우팅을 쓴 쪽은 1,339달러에 그쳤다. 에이전트는 한 작업에도 많은 토큰을 쓰고, Claude Managed Agents는 활성 시간 요금도 받는다. 비용이 보여야 알맞은 모델을 고른다.

풀러는 처음부터 관리형 인프라를 썼어야 했다고 돌아봤다. 흩어진 자동화를 나중에 회수하는 일이 더 비쌌기 때문이다. 비개발자에게 운영 권한을 줄 수 있었던 것도 AI가 완벽해서가 아니었다. 버전과 리뷰, 감사 기록, 비용 정보가 남았기 때문이다.

되돌릴 수 있는 구조를 먼저 만들자 조직의 질문도 바뀌었다. 누가 만들 수 있는지보다 무엇을 만들 가치가 있는지를 물었다.

자동화를 다루는 사람이 늘면서 개발자 수는 더 이상 회사의 기술 역량을 온전히 보여주지 못한다. 현업의 판단이 조직 안에 남고 다음 수정에 쓰이는 과정까지 기술 역량에 포함된다. 그 과정이 끊기면 현장의 판단도 함께 사라진다.


#기업 AI#에이전트