FEATURE ARTICLE
NVIDIA Nemotron 3 Super — 120B Mamba-Transformer MoE 오픈 에이전트 모델, 이전 대비 5배 처리량
📌 핵심 요약 NVIDIA가 에이전트 AI 특화 오픈 모델 Nemotron 3 패밀리를 출시했다. 플래그십인 Nemotron 3 Super는 120B 파라미터(활성 12B)의 Mamba-Transformer MoE 하이브리드 아키텍처를 채택해 Nemotron 2 대비 5배 처리량을 달성하고 1M 토큰 컨텍스트 윈도우를 지원한다. 🔍 왜 주목해야 하나 에이전트 AI 시스템에서 모델 선택의 핵심 기준은 단순 정확도가 아닌 처리량(tokens/sec)과 긴 컨텍스트 유지 능력이다. Nemotron 3 Super는 활성 파라미터를 12B로 제한해 추론 비용을 낮추면서도 1M 토큰 컨텍스트로 복잡한 멀티스텝 에이전트 워크플로우 상태를 메모리에 온전히 유지한다. Mamba 아키텍처 도입은 긴 시퀀스에서 선형 복잡도를 제공해 Transformer 대비 메모리 효율이 근본적으로 다르다. ⚡ 실무 시사점 멀티 에이전트 오케스트레이션 시스템을 설계 중이라면 Nemotron 3 Super를 Llama 4, Mistral Large 3과 함께 벤치마크 후보로 반드시 포함시켜야 한다. NVIDIA DGX/H100 인프라를 이미 운영 중인 팀에게는 최적화 측면에서 우선 고려 대상이다.
배경 및 맥락
2026년 에이전트 AI는 단순 쳇봇을 넘어 멀티스텝 작업을 자율 수행하는 시스템으로 진화하고 있다. 이런 시스템에서는 긴 작업 컨텍스트를 유지하면서 높은 처리량을 보장해야 하는데, 기존 밀집(dense) Transformer 모델은 이 두 가지를 동시에 만족하기 어렵다.
NVIDIA는 자사의 강력한 GPU 인프라와 결합한 오픈 모델 전략으로 에이전트 AI 생태계에서 주도권을 확보하려 한다. Nemotron 3는 GTC 2026에서 공개된 핵심 모델 패밀리로, 아키텍처 수준에서 에이전트 워크로드에 최적화됐다.
핵심 내용
Nemotron 3 패밀리:
| 모델 | 파라미터 | 활성 파라미터 | 특징 |
|---|---|---|---|
| Nemotron 3 Nano | 4B | 4B | 로컬 에이전트, 스마트폰/PC |
| Nemotron 3 Super | 120B | 12B | 플래그십, 프로덕션 에이전트 |
| Nemotron 3 Ultra | TBD | TBD | 2026 상반기 출시 예정 |
Nemotron 3 Super 주요 스펙:
- 아키텍처: Hybrid Mamba-Transformer MoE
- 컨텍스트 윈도우: 1M 토큰
- 처리량: Nemotron 2 대비 5배 향상
- Nano 4B: Nemotron 2 Nano 대비 4배 처리량
Mamba 아키텍처의 의미:
Mamba는 State Space Model(SSM) 기반으로, 긴 시퀀스에서 선형(O(n)) 복잡도를 달성한다. 기존 Transformer의 이차(O(n^2)) 어텐션 복잡도 대비 긴 컨텍스트 처리에서 메모리와 계산량 모두 효율적이다.
접근 경로: build.nvidia.com, Perplexity, OpenRouter, HuggingFace
경쟁 구도 / 비교
에이전트 AI용 오픈 모델 경쟁 구도:
- Meta Llama 4: 멀티모달 강점, 광범위한 커뮤니티
- Mistral Large 3: 41B 활성 파라미터, 유럽 오픈소스 생태계
- Nemotron 3 Super: NVIDIA 인프라 최적화, 에이전트 처리량 특화
NVIDIA가 모델 제공을 넘어 학습 데이터셋, RL 환경, 에이전트 라이브러리까지 함께 공개한 점은 Meta의 Llama 접근과 유사한 생태계 전략이다.
의미
NVIDIA는 GPU 하드웨어 판매를 넘어 소프트웨어 레이어(CUDA → NeMo → Nemotron)까지 에이전트 AI 스택을 수직 통합하고 있다. Nemotron 3가 확산되면 NVIDIA 인프라에 대한 고객 잠금(lock-in)이 강화되는 구조다. 동시에 오픈 가중치 공개는 연구 커뮤니티와 스타트업의 생태계 참여를 촉진해 장기적 플랫폼 지배력을 높이는 전략이기도 하다.