AI를 많이 쓰는 회사는 무엇이 다른가

AI 격차는 어디서 벌어졌나

OpenAI의 「Enterprise Signals」에 따르면, AI 사용량 상위 10% 기업은 활성 사용자 한 명당 일반 기업보다 8.3배 많은 출력 토큰을 생성했다. 지난 1월에는 2.6배였던 격차가 세 배 이상 벌어진 것이다. 엔터프라이즈 고객이 Codex와 ChatGPT에서 생성한 출력 가운데 Codex의 비중도 64%에 달했다. AI 활용의 중심이 대화에서 실제 업무 수행으로 옮겨가고 있음을 보여준다.

기업 간 격차는 토큰 사용량보다 도구 채택률에서 더 선명하게 드러난다.

지표	상위 기업	일반 기업
‘스킬’ 사용률 (주간 활성 사용자 중)	19%	3%
‘플러그인’ 사용률	21%	9%

주간 활성 사용자 가운데 반복 업무용 지침인 ‘스킬’을 사용한 비율은 상위 기업이 19%, 일반 기업이 3%였다. 사내 도구와 데이터를 연결하는 ‘플러그인’ 사용률도 각각 21%와 9%로 차이가 났다.

다만 직무별 Codex 사용자 수가 지난 2월 이후 법무에서 108배, 영업에서 41배, 엔지니어링에서 5배 증가했다는 수치는 신중하게 해석해야 한다. 법무와 영업은 초기 사용자 수가 거의 없었던 만큼, 이 증가율만으로 직무별 활용 역량의 차이를 판단하기는 어렵다.

똑똑함보다 중요한 종료 조건

재무 자동화 스타트업 Basis는 온보딩 시연을 반복 가능한 ‘스킬’로 전환했다. 각 스킬에는 시작 조건과 실행 단계, 필요한 도구 권한, 완료 기준이 명시돼 있다. 그 결과 입사 첫날 교육 시간이 2시간에서 30분으로 줄었다. 인사팀은 반복적으로 나오는 질문과 예외 사례를 수집해 다음 기수의 스킬을 개선한다.

영업 데이터 플랫폼 Clay는 고객 계정마다 상시 운영되는 워크스페이스와 서브에이전트를 배치했다. 서브에이전트가 밤사이 원천 자료를 바탕으로 딜 폴더를 갱신하면, 아침에 조율 에이전트가 우선 처리할 일을 제안한다. 이를 통해 매일 약 1시간 걸리던 야간 인박스 정리 업무가 사라졌다. 각 추천에는 근거가 함께 표시되므로 영업 담당자가 실행 전에 타당성을 확인할 수 있다. 에이전트의 작업 범위도 기존 계정 권한을 벗어나지 않는다.

AI 검색 API 기업 Exa는 신호 탐지와 자료 수집부터 PR(코드 변경 요청) 작성, 테스트, 주간 보고까지 하나의 흐름으로 연결했다. 다만 실제 배포 전에는 반드시 사람이 검토한다. 테스트와 검토 결과는 다음 실행의 범위를 조정하는 데 쓰인다. 업무의 영향이 클수록 권한 관리와 증거 확보, 사람이 직접 결정할 영역도 더 중요하게 설계된다.

에이전트의 실행 능력 자체도 크게 향상됐다. 업무의 최종 상태를 정답과 비교해 평가하는 벤치마크 WorkBench에서 최고 성공률은 2024년 43%에서 2026년 97.7%로 상승했다. 유해한 부작용 발생률은 같은 기간 26%에서 1.9%로 감소했고, 9개 모델이 성공률 80%를 넘었다.

아직 남은 오류는 추론력 부족보다 실행 기준의 허점에서 발생한다. 예를 들어 시작 조건이 충족되지 않았는데도 작업을 실행하거나, 검색 결과가 다섯 건에서 잘렸는데 추가 검색 없이 이를 전체 결과로 믿는 식이다. 결국 남은 과제는 더 뛰어난 추론보다 명확한 종료 조건과 충분한 증거 요건을 설계하는 데 가깝다.

에이전트 직무기술서부터 써라

에이전트 직무기술서에는 다음 내용을 명확히 적어야 한다. 어떤 조건에서 업무를 시작하는지, 달성해야 할 목표는 무엇인지, 어떤 맥락, 도구, 권한이 필요한지, 완료를 위해 어디까지 시도할 것인지다. 결과로 남겨야 할 증거와 사람의 검토를 받기 위해 작업을 멈춰야 하는 지점도 정해야 한다. 스타트업에서는 소수의 인원이 여러 책임을 맡을 수 있지만, 조직이 클수록 의사결정 권한과 책임자를 명확히 구분해야 한다.

에이전트의 활용 수준은 완료한 과제, 연결된 맥락과 도구, 처리한 예외, 사람에게 요구한 검토 부담을 기준으로 평가한다. 그 가치는 처리 시간, 품질, 비용, 매출, 위험에 미친 영향으로 측정한다. 답변이 길다고 반드시 좋은 것은 아니다. 긴 답변은 오류 가능성을 높일 수 있고, 짧고 정확한 답변은 큰 실수를 예방할 수 있다. 토큰 사용량이 늘었다면 생산성이 높아진 것이 아니라 재시도 비용이 커진 결과일 수도 있다.

성과 측정 체계는 네 단계로 구성한다. 첫째는 출력량, 둘째는 사용 수준, 셋째는 완료율, 품질, 검토 비용을 포함한 운영 성능, 넷째는 도입 비용을 제외한 사업 성과다. 출력량은 에이전트에게 얼마나 많은 일을 맡겼는지만 보여준다. 따라서 기업 간 실질적인 성과를 비교하려면 최소한 세 번째 단계인 운영 성능부터 살펴봐야 한다.

출처

#기업 AI #에이전트 #자동화