나델라, 지연·품질서 LLM 앞선다고 소개…입력 100만 토큰 0.042달러

마이크로소프트가 9일(현지시간) 구조화 결정을 위한 모델 Decision-1을 Foundry와 OpenRouter에 올렸다.

오픈AI는 6일 Decisions API를 공개 베타로 열었고, TypeSafe의 Jev는 9월 15일부터 입력 100만 토큰당 0.042달러를 써 왔다. 마이크로소프트 Command Line 블로그는 Decision-1 가격을 입력 100만 토큰당 0.042달러, 출력 무료로 적었다.

나델라, 사내 사고대응부터 시험

사티아 나델라 마이크로소프트 최고경영자는 같은 날 Decision-1을 빠른 의사결정용 새 모델로 소개했다.

구조화 의사결정 과제에서 최고 성능을 내며, 지연과 품질 모두에서 LLM과 다른 의사결정 모델을 앞선다.

— 사티아 나델라, TipRanks 10월 9일 · “It delivers top performance on structured decision tasks, outperforming both LLMs and other decision models in latency and quality.”

블로그에 따르면 회사는 이미 사고 대응, 품질 관리, 과학 발견 등 사내 업무에 이 모델을 넣고 있다. Xbox Research는 피드백 1만 건 이상을 고정 주제로 분류하는 시험에서 GPT-6 Sol보다 14배 빠르고 비용은 200분의 1 수준이었다. Copilot 팀은 응답 품질 채점에서 GPT-5.6 Luna와 비슷한 수준이면서 100배 빨랐다.

Microsoft Discovery는 실험 재계획용 채점에서 LLM보다 46배 일관되고 3배 빨랐다. 훈련에 넣지 않은 36개 벤치마크, 약 15만 문항에서 평균 정확도가 가장 높았다.

지연 중앙값은 H2O-Lightning-4B보다 2.5배, GPT-6 Sol보다 35배 짧았다. 입력 문구를 여덟 가지로 변형했을 때 결정이 바뀐 비율은 평균 1.3%였다.


Decision-1, 선택지에 확률만 반환

Decision-1은 알리바바 Qwen3.5-9B를 후훈련한 모델이다. 상황과 고정 선택지를 한 번에 읽고 각 옵션의 보정 확률을 JSON으로 돌려준다. 예/아니오, 다중선택, 등급, 에이전트 행동 채점, 근거 대조, “판단 불가” 기권 옵션을 지원한다.

용도는 라우팅, 분류, 우선순위, 검증, 워크플로 제어다. 텍스트 생성·채팅·요약용은 아니고 이미지 입력도 받지 않는다.

Foundry 모델 카드는 신용·고용·주거·의료·법적 권리처럼 단독 자동 결정이 위험한 영역에서는 쓰지 말라고 적었다. 선택지·임계값·에스컬레이션·사람 검토는 애플리케이션이 정해야 한다. 회사는 앞으로 이 모델을 Microsoft AI(MAI)와 오픈AI 기반 위에도 다시 올릴 계획이라고 했다.


오픈AI·Jev, 같은 층에서 가격 맞대

오픈AI 개발자 문서에 따르면 Decisions API는 6일 공개 베타에 들어갔다. GPT-6 Luna만 쓰고, 진위 확률·고정 선택·점수 세 유형을 돌려준다. 입력 100만 토큰당 0.10달러이고 출력·캐시 요금은 없다.

텍스트와 인라인 이미지를 함께 넣을 수 있다.

Decisions API는 Responses API를 통한 GPT-6 Luna보다 최대 10배 빠르게 결정을 내린다.

— 오픈AI, 개발자 커뮤니티 10월 6일 · “The Decisions API makes decisions up to 10x faster than GPT-6 Luna through the Responses API.”

TypeSafe는 9월 15일 Jev를 얼리 액세스로 냈다. 창업자 디오고 알메이다(Diogo Almeida)는 전 오픈AI 연구자로, Jev를 소프트웨어가 바로 쓰는 구조화 결정용 “System One” 모델이라고 불렀다. 입력 단가는 Decision-1과 같은 0.042달러, 출력은 무료다.

TechTarget에 따르면 Jev는 예/아니오(노울)·점수·선택만 반환하고 문장을 쓰지 않는다. 회사 측 응답 시간은 70–500밀리초다.

Decision-1과 Jev는 입력 단가가 같고, 오픈AI는 약 2.4배 비싸다. 이미지 입력은 오픈AI만 공식 지원한다.


정식 출시 일정은 아직 미정

오픈AI 문서는 Decisions API 정식 출시를 “앞으로 몇 주 안”으로만 적어 두었다. 구체 날짜는 아직 없다.


#기업 AI#AI 산업