메가와트당 토큰 40% 개선 목표…비교 GPU는 미공개
마이크로소프트가 12일(현지시간) Maia 300을 공개하고 2027년부터 자사 AI 추론을 맡는 주력 시스템으로 삼겠다고 밝혔다.
스콧 거스리 클라우드·AI 담당 수석부사장은 공식 블로그에서 2027년부터 Maia 계열을 멀티기가와트 규모로 배치한다고 썼다. 로이터는 내년 100만 개 이상 배치 가능성을 전했고, 메가와트당 토큰 40% 개선 주장의 비교 대상 GPU는 밝히지 않았다고 적었다.
Maia, 자사 서비스 추론을 맡는다
이미 생산에 들어간 Maia 200은 미국·유럽·호주에서 가동 중이다. 마이크로소프트 코파일럿 등 실제 서비스에 OpenAI 모델과 자사 MAI 모델, 오픈소스 모델을 돌린다. 깃허브 코파일럿과 마이크로소프트 파운드리는 연말까지 이 칩으로 옮긴다.
사티아 나델라 최고경영자는 이번 발표를 두고 이렇게 말했다.
자체 실리콘에 대한 지금까지 최대 베팅이다.
— 사티아 나델라, 긱와이어 10월 12일 · “our biggest bet yet on our own silicon”
Maia 300은 긴 문맥 추론, 지연에 민감한 대화, 다단계 에이전트 작업용으로 설계됐다. 회사는 선행 GPU 시스템 대비 메가와트당 토큰을 40% 더 낼 것으로 기대한다. 가속기 96개를 채운 랙에서는 Maia 200 대비 랙 단위 토큰 처리량이 최대 7배에 이른다.
칩릿으로 계산·입출력을 나눈다
아키텍처 기술문에 따르면 Maia 300은 멀티칩릿 구조다. 계산용 칩릿은 TSMC N2P 공정으로 만들고, 메모리 컨트롤러와 입출력은 따로 둔다. 가속기 하나에는 HBM4 스택 8개가 붙어 용량 288GB, 피크 대역폭 18.0TB/s를 낸다. 설계 전력(TDP)은 950와트다.
Maia 200과 견주면 메모리 대역폭은 2.5배, 용량은 33% 늘었다. 와트당 HBM 대역폭은 약 2배로 올랐다. 회사는 데이터 이동을 대형 추론의 병목으로 보고 소프트웨어가 데이터 배치와 이동을 직접 조율하도록 설계했다.
계산 칩릿에는 2나노미터급을, 데이터 이동 등 다른 칩릿에는 더 싼 3나노미터급을 썼다. 엔비디아가 거대한 단일 계산 칩을 중심에 두는 것과는 다른 경로다.
랙에 가속기 96개를 넣는다
Maia 300 랙은 가속기 96개를 167킬로와트 전력 한도 안에 넣는다. 랙 전체 HBM 용량은 27.6TB, 합산 HBM 대역폭은 초당 1.7페타바이트다. 트레이 24장에 가속기를 네 개씩 두고, 액체 냉각이 랙 열부하의 80% 이상을 가져간다.
엔비디아 최신 GB300 랙은 GPU 72개에 약 142킬로와트를 쓴다. 스케일업 영역은 슈퍼포드 기준으로 가속기 최대 1만2288개까지 묶는다. 랙 안은 전기 링크, 랙 사이는 광학 링크로 이은 2단 이더넷 기반 패브릭이다.
선행작 Maia 200은 랙당 가속기 48개였다. 새 세대는 밀도를 두 배로 올렸다.
라니 보커 Azure 하드웨어 시스템·인프라 사장은 로이터 인터뷰에서 이렇게 말했다.
시스템 전체를 최적화해 와트마다, 달러마다, 메모리 바이트마다 더 많은 지능을 내는 일이다.
— 라니 보커, 로이터 10월 12일 · “It’s basically delivering more intelligence for every watt, every dollar, and every byte of memory by optimizing across the entire system”
40% 개선은 회사 기대치다
회사는 Maia 200이 Teams·코파일럿·Cowork 내장 AI에서 선행 GPU 인프라 대비 와트당 토큰을 최대 1.7배 낸다. Maia 300의 40% 개선은 생산 배치 전 기대치다.
회사의 올해 설비투자는 1750억 달러 이상이다. 긱와이어는 에버코어 ISI 추정치를 바탕으로 2027년 초 Maia가 마이크로소프트 AI 칩 지출의 약 10%를 차지할 것이라고 적었다.
추가 세부 내용은 다음 달 샌프란시스코에서 열리는 마이크로소프트 이그나이트 2026에서 공개한다.