Apache 2.0 오픈웨이트로 풀린 490억 활성·100만 토큰 MoE…생산성 모델 경쟁이 다시 커진다
한눈에 보는 발표
2026년 8월 28일 텐센트 혼원(Hunyuan/Hy) 팀이 Hy4 preview를 공식 출시하고 가중치를 공개했다. 총파라미터 770B, 토큰당 활성 약 49B, 컨텍스트 창 100만 토큰 이상의 Mixture-of-Experts(MoE)다. 라이선스는 Apache 2.0이며, Hugging Face·ModelScope·GitCode·CNB에 원본 가중치와 FP8 버전이 올라갔다.
포지셔닝은 범용 챗봇이 아니라 장시간 소프트웨어 엔지니어링, 문서 중심 사무·분석, 게임 프로토타이핑, 과학 연구다. 같은 날 텐센트 클라우드 TokenHub와 OpenRouter API, 그리고 WorkBuddy·CodeBuddy·원바오(Yuanbao)·ima 등 자사 제품에도 붙였다. WorkBuddy·CodeBuddy에서는 출시 후 2주 무료, 전작 Hy3 무료 이용은 9월 30일까지 연장됐다.
로이터는 이 발표를 “코딩·연구·금융 분석용 오픈소스 모델”로 정리하면서, 텐센트가 AI 투자 속도를 올리는 와중에 나온 프리뷰라고 전했다. 회사는 4월 Hunyuan 3.0 계열을 내놓은 뒤 전 오픈AI 연구원 야오순위(Yao Shunyu)를 AI 플랫폼 책임으로 영입한 상태다.
모델이 실제로 무엇인가
아키텍처
공식 모델 카드 기준 핵심 스펙은 다음과 같다.
- 규모: 총 770B / 활성 49B. 별도 MTP(멀티토큰 예측) 층 약 10B(활성 0.7B)로 추론 가속
- 층 구조: 78층. 1층은 밀집 FFN, 나머지 77층은 MoE
- 전문가: 라우팅 전문가 256 + 공유 전문가 1, 토큰당 top-8 + 공유 전문가 활성화
- 주의(attention): DeepSeek 계열을 참고한 Gated DSA + IndexCache(층 간 희소 인덱스 재사용)
- 잔차 경로: iHC(identity Hyper-Connections), 잔차 스트림 4개
- 은닉 차원 6144, 어휘 120,832, 컨텍스트 1,048,576 토큰
전작 Hy3 preview는 총 295B·활성 21B·컨텍스트 256K였다. Hy4는 총파라미터가 약 2.6배, 컨텍스트는 4배로 커졌다.
설계 선택은 명확하다. 밀집 770B를 매 토큰마다 돌리지 않고, 저장 용량은 초대형으로 두고 연산은 49B급으로 묶는 2025–2026년 중국 오픈웨이트 표준 경로다. 1M 창은 저장소 단위 코드베이스·다문서 분석·장시간 에이전트 루프를 염두에 둔 수치다.
배포 경로가 처음부터 ‘제품 + 가중치 + API’다
텐센트는 연구 데모만 내지 않았다.
- 오픈웨이트: BF16 원본과 FP8 서빙용 체크포인트. 파일 규모는 약 1.4–1.6TB 수준으로 집계된다.
- 서빙 스택: vLLM·SGLang 전용 이미지, 도구 호출·추론 파서(
hy_v4), MTP 기반 스펙큘레이티브 디코딩. FP8 레시피는 보통 8-way 텐서 병렬을 전제로 한다. - 제품: CodeBuddy(코딩), WorkBuddy(사무), 원바오·ima
- API 정가(100만 토큰당): 입력 2.501, 캐시 히트 $0.042. 텐센트 클라우드 국내 표기는 입력 6위안, 출력 18위안, 캐시 0.3위안이다.
Hy3 preview의 OpenRouter 가격(입력 0.60 수준)과 비교하면 입력은 약 4.6배, 출력은 약 4.2배 올랐다. 그래도 폐쇄형 최상위 API보다는 낮은 구간이다. ‘싼 소형 모델’이 아니라 중상위 지능을 공개 가중치와 중간 가격으로 묶는 포지션이다.
성능 주장, 그리고 아직 열리지 않은 검증
텐센트가 내세운 숫자
회사의 핵심 근거는 공개 리더보드 한 장이 아니라 내부 블라인드 평가다. 내부 전문가 163명이 실제 공학 과제 203건을 채점했을 때 Hy4 preview 평균 2.99/4.00, GLM-5.3 2.92, Kimi K3 2.94였다. GLM 대비 승 46.8%·무 12.8%·패 40.4%, Kimi 대비 승 51.2%·무 7.9%·패 40.9%다.
모델 카드에 올라간 대표 점수는 대략 이렇다.
- GPQA Diamond 92.3
- SWE-bench Pro 65.7
- SWE-bench Multilingual 82.9
- DeepSWE 64.3
- HLE(도구 사용) 55.4, 무도구 43.4
과학 쪽에서는 분자동역학·응집물질물리·기초수학을 거론했고, 3차원 Blaschke–Lebesgue 문제의 부피 하한을 0.41104까지 올렸다는 사례도 자사 자료에 실렸다. 추론 인프라를 모델이 스스로 분석해 종단 처리량을 베이스라인 대비 31.8% 올렸다는 주장, 학습·데이터·평가·연산자까지 자동 최적화 루프에 참여했다는 ‘초기 재귀적 자기개선’ 서사도 공식 보도문에 들어 있다.
숫자를 읽을 때 필요한 각도
- 벤치는 공급자 실행이 중심이다. Hugging Face 카드 점수도 모델 카드에서 옮겨진 항목이 많고, 출시 직후 독립 재현은 아직 충분하지 않다.
- 내부 블라인드 테스트는 ‘토큰 퀴즈’ 대신 업무 산출물을 본다는 점에서 방향은 현실적이다. 다만 과제 선정·채점자·비교 모델 버전이 모두 사내 통제다. 승률이 50% 안팎이라는 점도, 압도적 격차라기보다 같은 리그의 근소한 우위로 읽는 편이 맞다.
- SWE-bench Pro 65.7은 2025년 공개 당시 GPT-5·Claude Opus 4.1이 공개셋에서 20%대였던 초기 기록과 직접 비교하면 안 된다. 벤치·에이전트 스캐폴드·모델 세대가 1년 가까이 바뀌었다. 의미 있는 비교는 같은 시점의 GLM-5.3·Kimi K3·Claude/GPT 최신 스캐폴드다.
- GPQA 92.3은 상위권이지만 같은 세대 중국·미국 추론 모델과 수 포인트 차이 구간에 있다. ‘과학 모델 단독 1위’로 읽히기보다 코딩 에이전트 + 장문맥 생산성이 본진이다.
텐센트 스스로도 프리뷰의 한계를 적었다. 필요 이상으로 길게 생각하고, 답을 과하게 재검증한다는 점이다. 기본 추론 모드는 high이고, 짧은 응답은 no_think로 꺼야 한다. 에이전트 루프에서는 지연·토큰 비용으로 바로 이어진다.
양자화가 바꾼 이야기: ‘로컬’의 정의가 바뀐다
출시 다음날 텐센트 압축 툴킷 AngelSlim 쪽에 GGUF가 나왔다. 카드 기준 Q4_K_M 약 435GiB, 혼합 저비트 STQ1_0 약 214GiB다. 원본 1.5TB급에서 약 200GiB대로 줄인 뒤 MCP Atlas 83.7→83.2, SWE-bench Multilingual 82.9→81.3처럼 소폭 하락만 남겼다고 주장한다.
해석은 두 갈래다.
- 낙관: 초대형 MoE를 저비트로 깎아도 생산성 벤치가 크게 무너지지 않는다면, 오픈 모델의 실용 축이 ‘작은 로컬 모델’에서 대형 MoE의 저비트 클러스터 배포로 이동한다.
- 현실: 200GiB도 노트북이 아니다. 공식 GGUF 안내도 전체 상주 시 214–435GiB VRAM을 말하고, 8×H20에서 STQ1_0 프리필 약 205 t/s·디코드 약 20 t/s를 적었다. 게다가
hyv4아키텍처는 아직 기본 llama.cpp 업스트림이 아니라 패치가 필요하다.
즉 ‘집에서 770B를 돌린다’가 아니라 연구실·클라우드 GPU 풀·온프레미스 추론팜이 폐쇄 API를 대체할 수 있느냐가 쟁점이다. 라이선스가 Apache 2.0인 점이 여기서 중요하다. 상용 재배포·파인튜닝 장벽이 낮아 기업 내부 배포 검토가 가능하다.
왜 지금 이 모델이 시장 구도를 흔드나
1. 중국 오픈웨이트가 ‘가성비 소형’만 파는 단계가 아니다
같은 주 전후로 GLM·Qwen 계열 플래시/효율 모델도 생산성 벤치를 들고 나왔다. Hy4는 그 반대편, 용량을 키운 품질 쪽이다. 활성 49B는 이미 중소 밀집 모델 전체 규모와 맞먹고, 총 770B는 전문가 다양성·장기 기억 용량을 노린 베팅이다. 중국 빅테크 경쟁이 ‘누가 더 싼 7B를 내나’에서 누가 더 큰 MoE를 실제로 서빙·양자화·제품에 넣나로 이동한 장면이다.
2. 연구소가 아니라 메신저·오피스·코딩 IDE를 가진 회사의 출사표
혼원 팀은 데이터와 평가를 텐센트 내부 소프트웨어·게임·금융·보안 전문가와 같이 만들었다고 한다. CodeBuddy·WorkBuddy와의 공동 설계가 반복된다. DeepSeek식 ‘모델 먼저, 제품은 나중에’와 결이 다르다. 위챗·문서·개발 도구 트래픽을 가진 사업자가 업무 궤적 데이터로 모델을 조준하는 구조다. 블라인드 테스트가 공학 과제인 이유이기도 하다.
3. 가격이 오른 것은 약점이자 신호다
Hy3 대비 4배 넘는 API 가격은 커뮤니티 입장에서 달갑지 않다. 동시에 텐센트가 Hy4를 ‘실험용 미끼’가 아니라 유료로 팔 수 있는 플래그십으로 본다는 뜻이다. 캐시 히트 $0.042는 1M 컨텍스트·반복 저장소 작업에서 실효 단가를 크게 낮출 수 있다. 장문맥 코딩 에이전트일수록 캐시 설계가 모델 품질만큼 중요해진다.
4. 지정학은 ‘봉쇄 대체재’ 서사로 읽히기 쉽다
미국 폐쇄 모델의 가격·접근·지역 제한이 있는 시장에서, Apache 2.0 770B급 가중치는 동아시아 클라우드·온프레미스 수요와 맞물린다. 다만 가중치 공개가 곧 규제·수출통제·보안 심사로부터의 해방은 아니다. 학습 데이터 출처, 검열·안전 정렬, 중국 클라우드 의존 API는 별개 리스크다. 오픈웨이트와 주권적 배포는 겹치지만 동일하지 않다.
5. ‘모델이 자기 학습을 도왔다’는 문장은 기술 트렌드의 전선이다
공식 자료는 Hy4가 학습 방법·데이터 전략·평가 프레임·저수준 연산자 최적화에 제안하고 실험했다고 적는다. 2026년 업계가 반복하는 테마다. 검증 포인트는 슬로건이 아니라 루프가 재현 가능한가, 사람이 고른 성공 사례만인가, 처리량 31.8%가 어떤 베이스라인인가다. 프리뷰를 일찍 푸는 혼원 방식(Hy3도 동일)은 피드백을 후학습에 넣는 제품 전략으로는 일관된다.
실무에서 바로 갈리는 지점
누구에게 의미가 큰가
- 에이전트형 코딩 팀: 1M 창 + SWE 계열 고점 + 공식 도구 파서는 IDE·터미널 에이전트에 바로 붙는다.
- 문서·금융·분석 워크플로: 다파일 통합→표·슬라이드 산출을 제품 시나리오로 적시했다.
- 온프레미스·규제 산업: Apache 2.0 + FP8/GGUF는 폐쇄 API 의존을 줄이려는 조직의 검토 목록에 올라간다.
- 추론 인프라 팀: Gated DSA·IndexCache·MTP는 vLLM/SGLang 최적화 대상이다. 커스텀 아키텍처라 업스트림 지원 속도가 운영 리스크다.
누구에게는 아직 먼가
- 단일 소비자 GPU·16–24GB급 로컬 사용자. 활성 49B여도 전문가 가중치 전체가 디스크·메모리에 있어야 한다.
- 지연에 민감한 챗 UI. 기본 high think + 과검증은 TTFT·완료 시간을 늘린다.
- 독립 평가가 끝나기 전 ‘SOTA 확정’을 전제로 한 대규모 모델 교체.
앞으로 48시간–몇 주가 가릴 것
출시 이틀 차인 지금, 관전 포인트는 스펙 반복이 아니라 재현이다.
- 제3자 SWE·에이전트 벤치가 공식 65.7·82.9와 얼마나 붙는지
- 1M 창이 양자화·긴 프리필에서 실제로 유지되는지(저비트일수록 장거리 회상이 먼저 무너지는 경우가 많다)
- FP8 8-GPU 서빙의 실측 처리량·비용이 OpenRouter 정가와 어떤 관계인지
- 과사고·과검증이 제품 기본값에서 얼마나 빨리 줄어드는지
- Hy4 ‘정식판’이 Hy3 때처럼 프리뷰 피드백을 흡수해 안정성·환각·속도를 고칠지
중국 오픈 모델 경쟁의 문장은 더 이상 “격차를 좁혔다” 한 줄로 끝나지 않는다. 텐센트가 보여준 것은 770B를 숨기지 않고, 49B만 깨우고, 200GiB까지 깎아 제품에 넣는 2026년형 배포 공식이다. 그 공식이 벤치 카드가 아니라 저장소 패치·보고서·게임 프로토타입에서 남는지는, 이제 가중치를 받은 쪽의 차례다.
