증류의 경제학

AI 업계에서 증류(distillation)는 흔히 큰 모델의 능력을 작은 모델에 옮기는 기술로 설명된다. 맞는 말이지만, 지금 벌어지는 일을 설명하기에는 부족하다.

증류는 이제 모델 압축을 넘어선다. 막대한 자본을 들여 만들어진 프런티어 모델의 능력을 다른 회사와 다른 국가가 더 낮은 비용으로 흡수하는 경로다. 산업적으로는 기술이전이고, 경제적으로는 연구개발비의 우회이며, 지정학적으로는 수출통제를 피하는 통로가 될 수 있다.

지금까지 AI 기술은 주로 세 가지 형태로 국경을 넘었다.

AI 반도체와 서버
모델의 가중치와 학습 데이터
API를 통해 생성된 모델의 출력

반도체는 공장과 데이터센터에서 추적할 수 있다. 가중치도 대용량 파일이기 때문에 이동을 감시하거나 제한할 수 있다. 문제는 출력이다. 수백만 번의 정상적인 질의와 답변 속에 모델의 판단 방식과 코딩 능력, 추론 패턴이 섞여 이동한다.

반도체 통제가 계산 능력의 이동을 막는 정책이었다면, 증류 통제는 이미 계산된 지능의 이동을 막으려는 정책에 가깝다.

지능은 어떤 공급망을 따라 이동하는가

지능의 공급망(밸류체인)을 상징하는 이미지

증류의 밸류체인은 모델 회사 하나로 끝나지 않는다. 전력과 반도체에서 시작해 API, 데이터 정제, 후처리 학습, 배포 시장까지 이어진다.

전력·데이터센터
GPU·HBM·파운드리
대규모 사전학습 모델
프런티어 Teacher 모델
API·클라우드·리셀러·프록시
합성 데이터 생성과 정제
Student 모델의 지도학습과 강화학습
오픈 웨이트·저가 API·온프레미스 배포
사용자 데이터와 매출
다음 세대 모델 학습

이 구조에서 미국은 최상위 Teacher 모델과 GPU 설계, 클라우드에서 강하다. 중국은 상대적으로 제한된 컴퓨팅 환경에서 모델 효율을 끌어올리고, 값싼 API와 오픈 웨이트로 배포 범위를 넓히는 데 강점을 보여왔다.

대만은 첨단 파운드리, 한국은 HBM을 포함한 메모리 공급망의 주요 지점이다. 유럽은 모델 생산보다 데이터 출처, 저작권, 안전성과 책임을 규정하는 쪽에서 영향력을 행사한다.

그 사이에는 눈에 잘 보이지 않는 중간 계층도 있다.

API 리셀러
해외 클라우드 계정
다중 계정 운영 조직
모델 라우터
합성 데이터 전문업체
답변 평가와 검증을 수행하는 데이터 공장

이들은 Teacher 모델과 Student 모델을 연결한다. 합법적인 기업용 데이터 생성 서비스가 될 수도 있고, 서비스 약관을 우회해 경쟁 모델의 출력을 대량으로 수집하는 경로가 될 수도 있다.

Anthropic은 2026년 2월, 중국의 DeepSeek·Moonshot AI·MiniMax가 약 2만 4천 개의 부정 계정을 만들어 Claude와 1,600만 회 넘게 상호작용했고 이를 자사 모델 학습에 쓰려 했다고 주장했다. 미국 백악관도 Moonshot이 Anthropic의 Fable 모델을 증류했다고 별도로 지적했다.

이 주장은 Anthropic의 조사 결과일 뿐, 독립기관이나 법원의 판정으로 확정된 사실은 아니다. 다만 OpenAI와 Anthropic 모두 이를 ‘산업 규모의 증류’로 보기 시작했다는 점은 분명하다. 프런티어 기업들이 증류를 단순한 API 남용이 아니라 기술 유출 문제로 다루기 시작한 것이다.

수십억 달러의 고정비를 수백만 달러의 변동비로 바꾸는 기술

수십억 고정비가 수백만 변동비로 바뀌는 비대칭을 상징하는 이미지

프런티어 모델을 처음 만드는 비용은 단순한 GPU 비용이 아니다.

데이터센터와 전력
연구자와 엔지니어
대규모 사전학습
실패한 실험
학습 방법의 시행착오
안전성 평가
후처리와 강화학습
실제 사용자 서비스에서 얻는 피드백

이 비용은 대부분 고정비에 가깝다. 반면 이미 만들어진 모델에 질문하고 답을 받는 비용은 토큰 사용량에 따라 늘어나는 변동비다.

증류의 경제적 가치는 다음 요소에서 생긴다.

독자 연구에 필요한 비용을 줄인다.
실패한 실험을 반복하지 않아도 된다.
어떤 방식이 효과가 있는지 Teacher의 결과를 통해 미리 알 수 있다.
제품 출시 시점을 앞당길 수 있다.
작고 저렴한 Student 모델로 장기 추론비를 낮출 수 있다.

대신 다음 비용이 발생한다.

Teacher 모델의 입력·출력 토큰 비용
질문을 설계하는 비용
나쁜 답변을 걸러내는 비용
정답을 검증하는 비용
Student 모델을 다시 학습시키는 GPU 비용
강화학습과 평가 비용
계정 차단·법률·제재 위험

공개 API 가격을 단순 적용하면, 수백만 건의 상호작용 비용은 생각보다 낮을 수 있다.

예를 들어 340만 건의 질의를 보내고 질의당 평균 1,000개의 입력 토큰을 사용한다고 가정하자. 출력 길이에 따라 비용은 크게 달라진다.

질의당 평균 출력	중상급 모델 사용 시 추정 비용	최상급 모델 사용 시 추정 비용
2,000토큰	약 10만 달러대	약 50만 달러대
5,000토큰	약 20만–30만 달러	약 100만 달러대
10,000토큰	약 50만 달러	약 200만–300만 달러

실제 비용은 어떤 모델을 썼는지, 할인 계약이 있었는지, 프록시 비용이 얼마나 들었는지에 따라 크게 달라진다. 그래도 대략적인 비대칭은 드러난다.

프런티어 기업이 수십억 달러를 들여 찾아낸 일부 능력을 경쟁자는 수십만–수백만 달러의 출력 비용으로 흡수할 수 있다.

다만 여기서 과장해서는 안 되는 부분도 있다. Kimi 같은 대형 모델을 API 출력만으로 만들 수 있는 것은 아니다.

Kimi K2는 자체 기술 보고서에서 15.5조 토큰 규모의 사전학습과 별도의 다단계 후처리 과정을 거쳤다고 설명한다. DeepSeek의 증류 모델도 아무것도 없는 상태에서 만들어진 것이 아니라, 이미 학습된 Qwen과 Llama 계열 모델을 기반으로 했다.

증류는 기초 모델을 만드는 비용 전체를 없애는 기술이 아니다. 가장 비싼 구간 가운데 일부를 건너뛰게 해주는 기술에 더 가깝다.

특히 다음 구간에서 효과가 크다.

어떤 문제를 풀어야 하는지 정하는 단계
좋은 답변의 형태를 찾는 단계
추론 패턴을 학습시키는 단계
코딩과 도구 사용 능력을 보강하는 단계
정답과 오답을 구분하는 평가 기준을 만드는 단계
실제 서비스에 적합한 말투와 행동을 학습시키는 단계

증류의 핵심은 토큰 수보다 질문 설계다

많은 출력을 모은다고 반드시 좋은 Student 모델이 만들어지는 것은 아니다.

Teacher에게 평범한 질문만 반복하면 평범한 답만 쌓인다. 중요한 것은 Teacher의 차별화된 능력이 드러나는 질문을 찾는 일이다.

어떤 문제를 물을 것인가
같은 문제를 몇 가지 방식으로 변형할 것인가
여러 답변 가운데 어떤 것을 남길 것인가
정답은 누가 검증할 것인가
실패한 답변도 학습 데이터로 활용할 것인가
쉬운 문제와 어려운 문제를 어떤 순서로 가르칠 것인가
어느 능력에 강화학습을 집중할 것인가

따라서 증류의 경쟁력은 단순히 API 예산에서 나오지 않는다.

좋은 질문을 만드는 능력, 답을 검증하는 평가세트, 데이터를 교육과정처럼 배열하는 커리큘럼 설계가 더 중요하다. 앞으로는 모델 회사만큼이나 합성 데이터 정제소와 평가 공장이 중요한 산업이 될 수 있다.

미국의 딜레마: 팔수록 돈이 되지만, 팔수록 가르쳐준다

미국과 중국의 AI 딜레마와 갈림길을 상징하는 이미지

미국 프런티어 기업은 모델을 널리 제공할수록 매출과 사용 데이터를 얻는다. 개발자가 자사 API를 기반으로 서비스를 만들면 생태계도 커진다.

그러나 최고 모델을 공개적으로 제공하는 순간, 경쟁자가 그 능력을 수집할 수 있는 표면도 넓어진다.

API를 제한하면 매출이 줄어든다.
가격을 높이면 저가 경쟁 모델로 고객이 이동한다.
출력을 짧게 제한하면 제품 가치가 떨어진다.
사고 과정을 감추면 복잡한 작업 성능이 낮아질 수 있다.
해외 접근을 막으면 중국 모델이 빈자리를 차지할 수 있다.

미국 정부는 오랫동안 고성능 GPU와 반도체 장비를 주요 통제 대상으로 삼았다. 최근에는 통제의 초점이 모델 접근권, 출력, 가중치, 클라우드 사용으로 넓어지는 흐름이 나타난다.

앞으로 프런티어 모델 접근은 국가와 고객에 따라 나뉠 가능성이 높다.

동맹국과 검증된 기업에는 최고 모델을 제공한다.
일반 해외 고객에게는 한 단계 낮은 모델을 제공한다.
대규모 출력 생성에는 별도의 심사를 요구한다.
특정 국가와 기업에는 사용량을 제한한다.
오픈 웨이트는 구세대 또는 소형 모델 중심으로 제공한다.

API가 단순한 소프트웨어 서비스가 아니라 지능의 수출 통로로 취급되기 시작하는 것이다.

중국의 딜레마: 풀수록 영향력은 커지지만 기술도 빠져나간다

중국 AI 기업의 강점 가운데 하나는 오픈 웨이트와 낮은 가격이다.

모델을 공개하면 세계의 개발자와 기업이 그 모델을 기반으로 제품을 만든다. 모델 자체에서 얻는 직접 수익은 줄어들 수 있지만, API 호환성과 개발 도구, 에이전트 프레임워크, 배포 생태계는 중국 모델을 중심으로 형성될 수 있다.

이 관점에서 오픈 웨이트는 단순한 공개 철학이 아니다.

미국 모델보다 저렴하게 배포한다.
로컬과 온프레미스 수요를 흡수한다.
개발자에게 모델 수정 권한을 준다.
미국 API를 쓰기 어려운 국가로 확산한다.
자국 모델을 사실상의 산업 표준으로 만든다.

하지만 중국도 같은 문제에 부딪힌다.

모델을 계속 공개하면 서방 기업도 그 기술을 이용할 수 있다. 가중치와 학습 노하우가 해외로 빠져나가고, 중국이 만든 모델이 미국의 제품과 연구를 개선하는 재료가 될 수도 있다.

중국이 첨단 모델 가중치와 핵심 학습 데이터의 해외 이전, 나아가 중국 기업이 설계한 칩의 해외 생산까지 통제하는 방안을 검토한다는 보도(파이낸셜타임스)가 나온 것도 이런 배경에서 볼 수 있다.

아직 확정된 정책은 아니지만 방향은 의미가 있다. 중국도 AI 모델을 수출 상품인 동시에 보호해야 할 전략 자산으로 보기 시작한 것이다.

미국과 중국은 서로 반대편에 서 있지만 비슷한 딜레마를 안고 있다.

미국이 모델을 잠그면 기술은 보호되지만 세계 개발자가 중국 모델로 이동할 수 있다.
미국이 모델을 열면 생태계는 넓어지지만 증류와 역설계 위험이 커진다.
중국이 모델을 풀면 글로벌 영향력은 커지지만 기술이 해외로 빠져나간다.
중국이 모델을 잠그면 기술은 보호되지만 오픈 웨이트 전략의 장점이 약해진다.

결국 두 나라 모두 기술 보호와 생태계 확산 사이에서 균형을 찾아야 한다.

API 출력은 수출품인가

지금까지 API 호출은 소프트웨어 서비스 거래로 취급됐다. 사용자는 질문을 보내고 답을 받는다.

하지만 그 답을 수백만 건 모아 경쟁 모델을 학습시킬 수 있다면, API 출력은 단순한 서비스 결과가 아니다. 기계가 읽을 수 있는 형태로 전달되는 노하우다.

앞으로 수출통제의 단위는 다음과 같이 넓어질 수 있다.

특정 성능 이상의 모델 접근 권한
계정당 생성 가능한 토큰 총량
코딩·사이버·과학 등 민감 능력에 대한 출력
장시간 추론 결과
사고 과정과 중간 추론 정보
평가 데이터와 보상모델
출력을 Teacher로 사용하는 학습 행위

여기에는 현실적인 문제가 있다.

일반 사용과 증류용 사용을 어떻게 구분할 것인가. 하루에 수천만 토큰을 사용하는 기업 고객이 정상적인 서비스를 만드는 것인지, 경쟁 모델의 학습 데이터를 모으는 것인지 외부에서는 쉽게 알기 어렵다.

증류 통제는 반도체 통제보다 훨씬 세밀한 감시를 요구한다.

증류 방지는 새로운 보안 산업이 된다

증류 방지·모델 능력 유출 탐지를 상징하는 이미지

프런티어 모델 기업은 이미 비정상적인 사용 패턴을 탐지하고 있다.

비슷한 질문을 대량으로 변형해 반복하는 행동
여러 계정이 같은 패턴으로 움직이는 행동
답변의 내부 규칙과 추론 방식을 집중적으로 묻는 행동
짧은 시간에 특정 능력만 대량으로 호출하는 행동
계정과 지역을 바꿔가며 사용량 제한을 피하는 행동

앞으로는 다음 기술이 하나의 산업군으로 성장할 수 있다.

API 고객확인과 신원 검증
계정 간 행동 지문 분석
모델 출력 워터마크
출처를 추적할 수 있는 문체·패턴 지문
의도적인 카나리아 데이터 삽입
클라우드 사업자 간 위협정보 공유
대량 합성 데이터 생성 탐지
Student 모델에서 Teacher의 흔적을 찾는 포렌식

사이버보안이 시스템 침입을 막는 산업이었다면, 증류 방지는 모델 능력의 유출을 막는 산업이 될 수 있다.

법적 전쟁은 저작권보다 계약에서 먼저 시작된다

AI 출력의 저작권·계약 다툼을 상징하는 이미지

많은 AI 서비스는 사용자가 출력 결과를 활용할 수 있도록 허용하면서도, 경쟁 모델을 개발하거나 출력을 자동 수집하는 행위는 금지한다.

여기에는 해결되지 않은 질문이 남는다.

인터넷의 글과 코드를 학습한 모델은 자신의 출력을 어디까지 독점할 수 있는가
사용자가 비용을 내고 얻은 답변을 학습에 사용하는 것은 왜 제한되는가
몇 개의 답변을 참고하는 것과 수백만 개를 자동 수집하는 것의 경계는 어디인가
모델의 답변은 저작물인가, 서비스 결과인가, 영업비밀의 일부인가
합법적으로 구매한 출력도 경쟁 모델 학습에 사용하면 계약 위반이 되는가

AI 기업은 인터넷의 지식을 학습해 모델을 만들었다. 이제 그 모델이 생성한 지식을 다른 모델이 학습하지 못하도록 막으려 한다.

증류 논쟁은 결국 인간이 만든 지식과 모델이 재가공한 지식 사이에 어떤 권리 차이를 둘 것인지의 문제로 번질 가능성이 높다.

프런티어 모델의 해자는 어디로 이동하는가

한 번 공개된 능력은 결국 따라잡힐 가능성이 높다. 출력으로 수집되거나, 가중치가 분석되거나, 독립 연구를 통해 재현될 수 있다.

그렇다면 지속 가능한 경쟁력은 특정 시점의 모델 성능만으로 설명하기 어렵다.

앞으로 더 중요한 자산은 다음에 가까워질 수 있다.

계속 쌓이는 실제 사용자 피드백
기업 업무시스템과 연결된 작업 환경
검증된 독점 평가세트
실패를 빠르게 발견하는 실험 체계
새로운 데이터 생성 능력
모델을 지속적으로 개선하는 연구 조직
신뢰성·보안·서비스 품질
고객과 개발자 유통망

복제하기 어려운 것은 현재의 답이 아니라 다음 답을 더 잘 만드는 과정이다.

증류가 빨라질수록 모델의 성능 격차는 오래 유지되기 어렵다. 프런티어 기업은 한 번 만든 모델을 지키는 회사가 아니라, 경쟁자가 따라왔을 때 이미 다음 세대로 이동해 있는 회사가 되어야 한다.

앞으로는 한 세대 차이의 개방이 유력하다

AI 산업이 완전히 닫히거나 완전히 열릴 가능성은 낮다. 현실적으로는 모델과 고객을 등급별로 나누는 체제가 나타날 가능성이 높다.

가장 가능성 높은 형태는 한 세대 차이의 개방이다.

최신 프런티어 모델은 제한된 고객에게만 제공한다.
한 세대 전 모델은 폭넓게 API로 제공한다.
소형 모델은 오픈 웨이트로 공개한다.
합법적인 증류에는 별도의 라이선스를 부과한다.
국가와 산업에 따라 접근 수준을 다르게 설정한다.
민감한 능력에는 토큰과 기능 제한을 둔다.

또 다른 가능성은 증류권 자체가 거래되는 시장이다.

일반 추론용 API 요금
학습용 출력 생성 요금
Student 모델 매출에 따른 로열티
데이터 출처 감사
안전성 평가 의무
특정 국가와 산업에 대한 재판매 제한

음악 산업이 샘플링을 완전히 막지 않고 라이선스 시장으로 편입했듯, AI 산업도 증류를 무조건 차단하기보다 공식적인 기술이전 시장으로 바꿀 수 있다.

한국에 남는 선택

한국은 프런티어 모델 경쟁에서 미국이나 중국과 같은 규모의 자본을 투입하기 어렵다. 대신 증류 밸류체인의 몇몇 지점에서는 분명한 위치를 가질 수 있다.

HBM과 메모리 공급망
기업 내부 데이터를 활용한 산업 특화 모델
제조·통신·금융·의료 분야 평가세트
한국어와 전문업무 합성 데이터
온프레미스와 소형 모델 최적화
모델 보안과 증류 탐지
합법적인 Teacher–Student 라이선스 중개

한국 기업이 범용 프런티어 모델을 그대로 따라 만드는 데만 집중하면 자본 경쟁에서 불리하다. 반대로 해외 Teacher 모델의 능력을 국내 산업 데이터와 결합해 작고 강한 Student 모델로 전환한다면 다른 기회가 생긴다.

중요한 것은 단순히 모델을 가져와 미세조정하는 것이 아니다.

어떤 업무의 판단을 옮길 것인가
그 판단을 검증할 수 있는 데이터가 있는가
Teacher가 틀렸을 때 누가 수정할 것인가
학습된 결과와 평가세트를 누가 소유할 것인가
원래 모델이 차단돼도 독립적으로 운영할 수 있는가

증류는 기술 격차를 줄이는 도구가 될 수 있지만, 잘못 사용하면 해외 모델에 대한 새로운 종속을 만들 수도 있다.

결론

증류는 AI 모델을 싸게 만드는 기술만은 아니다. 이미 만들어진 지능을 더 낮은 비용으로 이동시키는 산업 구조다.

칩을 통제하면 계산 능력의 이동을 늦출 수 있다. 가중치를 통제하면 완성된 모델의 복제를 막을 수 있다. 하지만 API 출력은 정상적인 서비스 사용과 기술이전을 구분하기 어렵게 만든다.

그래서 AI 경쟁의 중심은 점차 바뀌고 있다.

누가 더 많은 GPU를 가지고 있는가
누가 더 강한 Teacher 모델을 보유했는가
누가 더 좋은 질문과 평가세트를 가지고 있는가
누가 증류를 더 효율적으로 수행하는가
누가 자신의 모델이 Teacher로 사용되는 것을 막을 수 있는가
누가 다음 세대 모델로 더 빨리 이동하는가

증류가 널리 퍼질수록 한 번 만들어진 지능의 독점 기간은 짧아진다.

결국 가장 강한 기업과 국가는 지식을 보유한 곳이 아니라, 그 지식을 계속 새롭게 만들어내는 체계를 가진 곳이 될 가능성이 높다.

#ai-distillation #export-controls #teacher-student-model #ai-geopolitics