배경 및 맥락
오픈모델 생태계는 한동안 벤치마크 점수와 파라미터 규모 중심으로 경쟁해 왔다. 하지만 실제 제품팀이 체감하는 병목은 다른 곳에 있다. 긴 응답 시간, consumer GPU에서의 낮은 처리량, 모바일과 엣지 기기에서의 전력 소모, 그리고 로컬 agent가 느려서 생기는 UX 저하다. 특히 coding assistant나 autonomous agent처럼 여러 단계의 추론을 짧은 시간 안에 반복해야 하는 워크로드에서는 모델 IQ보다 latency가 더 직접적인 사용자 경험 차이를 만든다.
Google이 Gemma 4에 MTP drafter를 붙인 것은 바로 이 현실을 겨냥한다. 이미 배포된 target model의 reasoning 품질은 유지하면서, speculative decoding으로 토큰 생성 병목을 줄여 deploy economics를 개선하려는 접근이다.
핵심 내용
Google은 Gemma 4 family용 MTP drafters를 공개하며 최대 3배 속도 향상을 제시했다. 핵심 아이디어는 무거운 target model이 한 토큰씩 생성하는 동안 경량 drafter가 여러 후속 토큰을 먼저 예측하고, target model이 이를 병렬 검증하는 speculative decoding 구조다. Google은 Gemma 4가 수주 만에 6천만 다운로드를 넘겼다고 밝히며, 이번 업데이트를 통해 workstation, mobile, edge, cloud 전반에서 responsiveness를 끌어올린다고 설명했다.
구현상으로는 drafter가 target model activation과 KV cache를 재사용하고, edge용 E2B/E4B 모델에는 embedder 최적화도 적용했다. 지원 경로도 넓다. Hugging Face, Kaggle, Transformers, MLX, vLLM, SGLang, Ollama, Google AI Edge Gallery 같은 생태계에서 바로 활용할 수 있게 배포됐다.
경쟁 구도 / 비교
많은 오픈모델 발표가 더 높은 benchmark나 더 긴 context에 집중하지만, 실제 현장에서는 inference wall-clock time이 adoption을 좌우한다. MTP는 모델을 새로 학습해 더 똑똑하게 만드는 것이 아니라, 같은 모델을 더 빠르게 돌리게 해 제품 완성도를 끌어올린다. 이는 frontier proprietary model이 전용 inference stack으로 차별화해 온 영역을 오픈모델 진영이 시스템 최적화로 따라잡으려는 흐름과 맞닿아 있다.
특히 로컬 실행이 중요한 coding, agent, mobile 시나리오에서는 3배 속도 향상이 benchmark 1~2포인트보다 훨씬 큰 의미를 가진다. 결국 오픈모델 경쟁은 '누가 더 똑똑한가'만이 아니라 '누가 같은 지능을 더 싸고 빠르게 전달하는가'로 재정의되고 있다.
의미
산업적으로는 오픈모델 시장의 가치가 raw capability에서 deployment efficiency로 이동하고 있다는 신호다. 앞으로 플랫폼 사업자는 모델 자체보다 speculative decoding, KV cache reuse, hardware-specific optimization 같은 inference engineering 역량으로 차별화할 가능성이 크다.
실무적으로는 로컬 AI 제품팀이 모델 평가표에 benchmark 외에도 tokens/sec, batch-size scaling, VRAM pressure, edge battery impact를 반드시 넣어야 한다. 2026년의 경쟁력은 더 큰 모델 하나보다, 같은 모델을 더 빠르게 돌리는 시스템 설계에서 나온다.