AI 주권은 선언이 아니다... 실제 필요한 것은?

완전한 독립은 쉽지 않다

AI 주권을 자체 구축 여부만으로 판단하기는 어렵다. 데이터 통제권과 모델 이식성, 자체 개발과 외부 구매의 범위, 규제 준수 방식을 각각 살펴야 한다. 재무 자동화 소프트웨어 기업 BlackLine과 영업 소프트웨어 기업 Clari, Salesloft는 모든 AI 공급자에게 데이터 무보존을 요구한다. 국가와 지역마다 다른 규제에는 AI 경영시스템 국제표준인 ISO 42001을 공통 기준으로 적용한다. BlackLine의 최고정보책임자 질 크네섹은 완전한 독립이 지나치게 복잡해 현실적인 전략은 자체 시스템과 외부 서비스를 함께 쓰는 형태에 가깝다고 설명한다.

기업들은 이미 여러 공급자를 함께 이용하고 있다. 시장조사기관 Omdia가 2025년 11월 실시한 조사에서 응답 기업의 54%는 모델 공급자 2~3곳과 거래했고, 44%는 생성 모델 3~5종을 사용했다. 기업마다 직접 통제할 영역과 외부에 맡길 영역을 구분해서 판단해야 한다.

국가도 AI 기술 전반을 독자적으로 확보하기는 어렵다. 2026년 6월 소버린 AI 사업은 21건으로 2024년 말보다 두 배 이상 늘었다. 다만 대부분은 오픈웨이트 모델(가중치가 공개된 모델)을 자국 데이터로 미세조정하거나 프론티어 모델(최고 성능 최전선 모델)보다 작은 모델을 훈련하는 데 그쳤다. 인도의 AI 기업 Sarvam이 개발한 105B 모델은 수천 장의 GPU를 수개월간 사용했다. 프론티어 모델을 개발하려면 H100 기준 1만 장 이상의 GPU와 수억 달러가 필요하다.

기업이 모델을 자체 호스팅해서 비용을 줄일 수 있는 조건도 제한적이다.

비교 대상	자체 호스팅 손익분기점
고가 폐쇄형 모델	하루 200만~500만 토큰
오픈웨이트 모델 API	하루 1,500만~2,000만 토큰
저가 API	하루 5,000만 토큰을 처리해도 자체 호스팅이 더 비싸다

가동률이 10%라면 비용은 열 배로 늘고, 엔지니어링 비용까지 포함한 총비용은 GPU 비용의 3~5배에 달한다. 처리량이 많고 부하가 일정하며 규제 때문에 직접 운영해야 할 때 자체 호스팅의 경제성이 생긴다.

SLA가 있으니 괜찮다?

2026년 6월 12일 미국 상무부 산업안보국은 Anthropic에 서한을 보내 Fable 5와 Mythos 5의 수출 허가를 요구했다. 수출관리개혁법 ECRA §4817(b)(1)과 수출관리규정 EAR §744.22(b)에 근거한 조치였다. 수출, 재수출, 역내 이전 제한은 미국에서 근무하는 비시민권자를 비롯해 전 세계 외국인에게 적용됐다. Anthropic은 이용자의 국적을 곧바로 확인할 수 없어 몇 시간 만에 두 모델을 모든 고객에게 차단했다. 제재 대상이 아닌 미국 고객도 계약이나 서비스 수준 협약 SLA와 관계없이 서비스를 이용하지 못했다.

서비스는 6월 30일 재개됐지만 성능은 이전과 달랐다. 안전장치가 강화된 Fable 5는 기존에 처리하던 과제 12개 가운데 3개만 마쳤고 정상적인 질의도 여러 차례 거부했다. 이 사례는 서비스 접속 여부와 실제 업무 수행 능력을 따로 시험할 필요가 있음을 보여준다.

앞서 6월 26일 발송된 서한은 일부 신뢰할 수 있는 파트너에게 Mythos 5의 수출 허가를 면제했다. 계약 등급보다 이용자의 국적과 정책 판단이 접근 권한에 더 큰 영향을 미쳤다. 국제 프라이버시 전문가 협회 IAPP는 모델을 이용하지 못하는 상황에 대비해 업무 절차를 마련해야 한다고 평가했다. 다만 여러 모델로 이중화하면 비용이 늘고 업무 효율이 떨어질 수 있다고 덧붙였다.

정책이 바뀌지 않아도 공급자는 제품을 종료한다. OpenAI의 Assistants API는 2025년 8월에 공지한 일정에 따라 2026년 8월 26일 폐지될 예정이다. 이미지 모델 세 종도 12월 1일 종료된다. chatgpt-4o-latest 역시 API 별칭과 기업용 접근이 차례로 중단됐다.

유럽연합의 디지털 운영 복원력법 DORA 제28조는 중요 ICT 서비스를 교체할 때 적용할 출구 전략을 문서로 작성하고 시험하도록 규정한다. 금융회사가 다른 모델로 전환할 수 있음을 입증하려면 후보 모델을 직접 비교하고 출력 품질과 프롬프트, 후속 처리 과정을 검증해야 한다. 2026년 첫 종합 검사가 예정된 만큼 전환 훈련도 감독 대상에 포함된다.

캐시 적중률 71%가 12%로 떨어진 이유

한 공급자에서 다른 공급자로 전환하는 데 6주가 걸렸다. 공급자별 와이어 포맷(통신 규격) 어댑터는 41줄에 불과했고 하루 만에 작성했다. 그러나 프롬프트를 조정하는 데 4주가 걸렸고 남은 기간에는 평가 기준선을 다시 만들었다. 통신 형식을 바꾸는 일보다 기존 품질을 회복하는 데 훨씬 많은 시간이 들었다.

호환 엔드포인트는 지원하지 않는 필드를 오류 없이 무시할 때도 있다. 코드는 정상적으로 실행됐지만 구조화 출력의 검증 성공률은 99.4%에서 86%로 떨어졌다. 단순히 이관했을 뿐인데 프롬프트 캐시 적중률도 71%에서 12%로 낮아졌으며 같은 문장의 토큰 수는 24개 차이가 났다.

과금 방식도 공급자마다 다르다. Anthropic과 중국 AI 기업 DeepSeek은 캐시를 읽을 때 일반 입력 요금의 약 10%를 부과한다. OpenAI는 모델에 따라 25~50%를 할인하고 Google의 Gemini는 저장 시간을 기준으로 과금한다. 요율 한도와 서비스 종료 일정, 제공 지역, 모델 기능은 공통 인터페이스로 통일할 수 없다. 공급자 전환 비용을 계산할 때 프롬프트 재조정과 재평가, 재조달까지 포함해야 한다.

모든 API를 하나의 인터페이스로 감싸는 것만으로는 부족하다. complete(messages)처럼 공급자 API를 본뜬 인터페이스는 공급자 의존성을 없애지 못한다. answer_from_docs, classify_ticket, summarise_thread처럼 업무 단위로 경계를 정하면 모델을 바꿔도 애플리케이션은 같은 업무 인터페이스를 계속 쓸 수 있다. 다만 인프로세스 어댑터(애플리케이션과 같은 프로세스 안에서 도는 변환 계층)는 3ms, 같은 환경의 게이트웨이는 49ms, 원격 게이트웨이는 228ms의 지연을 추가했다. 추상화는 필요한 업무에만 적용해야 지연을 줄일 수 있다.

자체 구축할 것인가?

주권은 세 가지 기록으로 확인한다. 공급자 전환 리허설 결과, 기존 모델과 대체 모델의 평가 점수 차이, 데이터가 어느 관할을 거쳤는지 보여주는 요청별 로그다. 평가셋은 실제 실패 사례에서 고른 과제 20~50개로 시작해도 된다. 평가셋이 없으면 새 모델을 시험하는 데 몇 주가 걸린다. 평가셋이 있으면 모델의 강점을 확인하고 프롬프트를 조정해 며칠 안에 전환할 수 있다.

데이터를 어디에서 처리할지는 처리 전에 정한다. 민감 데이터는 온프레미스(자체 전산실 내부 운영)나 역내 모델로 보내고 개인정보가 아니거나 규제를 받지 않는 업무만 국외 모델에 맡긴다. 유럽데이터보호위원회도 2025년 4월 지침에서 온프레미스 추론을 강한 보호책으로 평가했다.

게이트웨이는 공급자별 라우팅 규칙을 적용하고 개인정보와 기밀을 탐지해 가린다. 입력과 출력, 정책 판정, 변환 내역은 요청별로 수정할 수 없는 로그에 남긴다. 다만 데이터 경계를 세분할수록 시스템을 관측하고 감사하는 비용은 커진다.

직접 보유했을 때의 가치는 기술 구성 요소마다 다르다. 모델은 도입 비용이 가장 높지만 교체 주기가 빠르다. 오픈 모델 가운데 성능이 앞선 모델도 미국 프론티어 모델보다 약 8개월 늦다.

반면 버전별로 관리한 평가셋과 데이터 파이프라인은 오래 사용할수록 비교 기준이 축적된다. 실행 기록과 모델 버전을 연결하면 응답 시간, 토큰 사용량, 과제당 비용, 오류율을 회귀 시험에 활용할 수 있다. 컴플라이언스 체계는 관할마다 따로 만들기보다 ISO 42001과 같은 높은 기준으로 통합하고 DORA의 공급자 전환 시험을 추가하는 편이 비용이 적다.

조직의 현황은 네 가지 항목으로 표시할 수 있다.

주 공급자를 끊은 뒤 복구하는 데 걸리는 일수
대체 모델로 바꿨을 때 평가 점수가 떨어지는 폭
지난 분기 데이터가 거친 관할의 로그
마지막 공급자 전환 리허설 날짜

자체 구축 여부는 이 네 항목을 확인한 뒤 판단한다.

출처

#기업 AI #AI 정책 #지정학