범용 모델의 성능은 더 이상 특정 산업이나 직무 하나에 특화한 AI 응용 제품, 이른바 버티컬 AI 기업만의 우위가 아니다. 같은 기술을 여러 공급자가 쓸 수 있게 되면서 경쟁의 기준은 모델을 도입한 제품과 고객 업무에 깊게 결합된 제품 사이에서 달라지고 있다. 이 글에서 해자는 경쟁사가 쉽게 복제할 수 없는 지속적인 방어 요소를 뜻한다.
가장 강한 공급자가 경쟁자가 됐다
버티컬 AI 기업은 다섯 방향에서 경쟁한다. 스탠퍼드 CodeX는 경쟁자를 AI 스타트업, 기존 SaaS(서비스형 소프트웨어), 서비스 기업, 오픈소스 앱, 파운데이션 모델(범용 응용의 기반이 되는 대규모 AI 모델)로 나눈다. 그중 가장 까다로운 상대는 제품의 기반이자 경쟁자이기도 한 모델 회사다.
실제로 Anthropic은 이미 법률, 금융, 의료 분야에 진출했다. Claude for Legal은 Thomson Reuters와 DocuSign뿐 아니라 법률 AI 기업 Harvey까지 연결한다. 기존 앱은 모델의 유통망 안에 편입됐다.
이어 Anthropic이 계약 검토와 규제 준수를 처리하는 Claude Cowork 플러그인을 공개하자 관련 기업의 시가총액은 하루 만에 2,850억 달러 줄었다. 모델이 앱을 완전히 대체할까. 그보다 모델이 싸지고 좋아질수록 앱의 무엇이 흔해지고 무엇이 더 중요해지는지가 관건이다.
쉽게 대체되는 층과 다시 구축해야 하는 층
CodeX는 버티컬 AI의 해자를 워크플로, UX, 산업별 실행 체계(harness)와 전용 도구, 컴플라이언스(규제와 내부 규정 준수), 데이터 운영체제인 ‘Brain’, 임베디드 판단으로 구분한다. 임베디드 판단은 숙련자의 판단 규칙과 예외 처리를 제품의 업무 절차 안에 내장하는 것을 뜻한다. 뒤로 갈수록 제품을 바꿀 때 고객이 다시 구축해야 할 것이 많다.
화면과 사용법은 쉽게 대체된다. 에이전트가 시스템을 직접 조작하면 메뉴와 대시보드의 가치도 줄어든다. 반면 데이터 연결과 권한 체계는 옮기기 어렵다. Harvey의 Vault는 iManage, SharePoint, Box의 문서를 동기화하고, Legora는 Word와 문서관리 시스템 안에서 검색과 인용 확인을 지원한다. Legora가 iManage와 API 연동을 확대한 것도 문서와 권한을 기존 체계에 남겨두기 위해서다.
금융 분야에서도 회의 내용을 CRM 업무와 감사 자료로 바꾸는 금융자문용 AI 기업 Jump는 2년 만에 자문역 2만7,000명을 확보하고 8,000만 달러를 투자받았다. 규제 산업일수록 교체 비용은 왜 더 클까. 새 제품을 들일 때마다 접근 권한, 보존 정책, 감사 로그를 다시 검증해야 하기 때문이다.
한편 회계 AI 기업 Accordance는 세법, 판례, 조세조약을 고객의 업무 이력과 결합했다. 이렇게 산업 지식과 고객 데이터를 함께 다루는 운영체제도 강한 해자가 된다. 공개 출시 당시 1,300만 달러를 조달했고 Anthropic도 투자했다. 모델 회사조차 전문 데이터와 운영 체계를 갖춘 앱은 단순한 경쟁자로만 보지 않는다.
오늘의 규칙은 내일의 해자가 아니다
그 가운데 가장 깊은 해자는 숙련자의 판단을 업무 절차에 심어 넣는 데서 생긴다. 계약 협상에서 양보할 조항과 상급자에게 넘길 예외를 정하는 식이다. 사람의 판단과 피드백이 누적될수록 복제하기 어려워진다.
판단을 시스템에 넣으려면 규칙과 사례를 기록해야 하고, 기록된 지식은 프롬프트나 평가셋(모델, 에이전트의 성능을 점검하는 문제와 정답의 묶음)으로 옮길 수 있다. 가치가 큰 만큼 경쟁자가 가장 먼저 노리는 영역이다.
그렇다면 방어력은 어디서 나올까. 완성된 규칙보다 갱신 과정에서 나온다. Harvey는 고객 맞춤형 에이전트 2만5,000개 이상을 운영하며 1,300여 고객, 조직에 서비스를 제공한다. 고객의 수정과 예외 처리는 계속 다음 업무에 반영됐다.
오늘의 규칙은 복제할 수 있어도, 이후 계속 반영되는 수정 내용까지 그대로 가져갈 수는 없다.
추론은 싸지고, 운영은 비싸진다
211개 실제 코딩 과제로 비교한 실험에서 오픈 웨이트 모델 GLM-5.2를 쓴 경로는 과제당 0.92달러로 상위 폐쇄형 모델과 비슷한 품질을 냈고, DeepSeek V4 Flash의 입력 가격은 100만 토큰당 0.14달러로 제시됐다. 추론 비용(모델이 입력을 처리해 답을 생성할 때 드는 비용)은 이렇게 빠르게 떨어지고 있다. 작업 난도에 따라 모델을 나눠 쓰면 비용은 더 낮아진다.
그러나 절감액이 모두 이익으로 남을까. 에이전트가 여러 시스템에 접근할수록 통합 개발, 권한 설정, 감사 기록, 평가셋 관리 비용이 커진다. 요약과 초안 작성은 평준화되지만 산업별 데이터 구조와 규제 검증은 저절로 해결되지 않는다.
실제로 Legora는 6억 달러를 조달하며 기업가치 56억 달러를 인정받았고, Harvey는 2억 달러 라운드에서 기업가치 110억 달러를 기록했다. 자본은 범용 모델보다 법률 자료와 문서 권한, 고객별 업무 절차를 묶은 자산에 몰렸다.
결국 해자와 기능을 구분하는 기준은 단순하다.
| 구분 | 판단 기준 |
|---|---|
| 기능 | 모델을 바꿀 때 공급자가 화면이나 프롬프트만 고치면 기능이다. |
| 해자 | 고객이 데이터 연결과 권한, 감사 체계, 내부 판단 절차까지 다시 검증해야 한다면 해자다. |
그렇다면 고객이 비용을 지불하는 대상은 한 시점의 성능보다 조직 안에서 계속 작동하는 상태에 가깝다. 기술의 세대가 짧아질수록 제품을 평가하는 시간은 도입 순간보다 교체와 갱신 이후까지 길어진다.