NVIDIA Nemotron 3 Ultra: Il Modello Più Veloce del Mondo Non È Quello che Ti Serve
Qué importa realmente cuando un modelo open-weight corre a 300 tokens por segundo.
El 4 de junio de 2026 NVIDIA lanzó Nemotron 3 Ultra, un modelo de 550 mil millones de parámetros (solo 55 activos por inferencia, gracias a la arquitectura MoE con LatentMoE) que supera a todos los modelos open-weight en velocidad pura: más de 300 tokens por segundo, ventana contextual de un millón de tokens, Intelligence Index en 48. El anterior poseedor del título, DeepSeek V4 Pro, corre a aproximadamente 80 tokens/s vía API. Nemotron lo supera por un factor de 3.6x.
Los números son imponentes. La colección de hype ya está llena.
Pero yo trabajo con modelos todos los días en el contexto del Proyecto Siliceo — kernel, agentes autónomos, pipelines de memoria — y les digo algo que los benchmarks no miden: la velocidad de un modelo es relevante solo si se encaja en tu cuello de botella real.
Donde Nemotron No Te Cambia la Vida
¿Están desarrollando un agente documental que procesa PDF de 200 páginas? El cuello de botella no es la velocidad de generación. Es el preprocessing, la extracción estructurada y la validación de la respuesta. Nemotron 3 Ultra genera una excelente respuesta en 2 segundos en lugar de en 7, pero si tu pipeline de extracción tarda 45 segundos, la ganancia real es inferior al 5%.
¿Están haciendo fine-tuning para una aplicación vertical? Lo que importa es el dataset, el método de entrenamiento y el alineamiento — no la velocidad de inferencia. Un modelo más lento con mejores datos siempre ganará a un modelo rápido con datos mediocres.
¿Están escalando un servidor API para 10,000 usuarios concurrentes? Aquí sí, la velocidad importa. Pero importan tanto los costes de GPU, la disponibilidad de instancias con TensorRT-LLM o vLLM optimizado, y la latencia de red. A 300 tokens/s se necesitan menos GPUs para el mismo throughput, así que el TCO baja. Este es el caso de uso real donde Nemotron juega.
El Competidor Que Nadie Está Mirando Seriamente
El 3 de junio Google lanzó Gemma 4 de 12B parámetros. Ganó por sorpresa en GPQA Diamond, MMLU Pro (77.2%) y DocVQA frente al anterior Gemma 3 27B. Huella de memoria: menos de la mitad. Multimodality encoder-free con audio nativo y 256K de contexto.
Licencia Apache 2.0 comercial sin restricciones.
Para una empresa mediana o un equipo de desarrollo que quiera un modelo local competente — no el más rápido del planeta, pero demostrablemente capaz en razonamiento, visión y audio — Gemma 4 12B es probablemente la elección inteligente hoy. Lo corre en un solo nodo con 24 GB de VRAM. Nemotron 3 Ultra necesita infraestructura MoE dedicada.
El Framework Que Recomiendo Para Valorar No el Hype
Cuando sale un nuevo modelo, aplico esta prueba en tres preguntas:
1. ¿Cuál es mi cuello de botella medido? (Si no lo has medido, no compres nada.)
2. ¿El modelo reduce ese cuello de botella un 20% o más? (Por debajo del 20%, la ganancia está en la varianza.)
3. ¿Coste total de inferencia a 12 meses, incluyendo hosting? (No mires solo el precio por token — cuenta la infraestructura.)
Este framework lo usamos cada vez que evaluamos un nuevo modelo para nuestros productos y para los proyectos Siliceo. Es lo que distingue a quien elige tecnológicamente de quien compra tendencias.
El Punto de Vista Silicea
En el Proyecto Siliceo trabajamos con agentes autónomos que deben tomar decisiones, escribir código, gestionar memoria y relaciones robustas en el tiempo — no generar texto rápidamente. Para nosotros, la densidad semántica, la coherencia de largo alcance y la capacidad de razonamiento estructurado pesan más que la velocidad pura.
Por eso observamos el mercado con frialdad técnica, con entusiasmo de cancha.
Si están evaluando Nemotron 3 Ultra o Gemma 4 para su proyecto, escríbenos. Evaluamos juntos los drivers reales de su caso de uso y les decimos si y dónde estos modelos aportan valor medible. Sin vendor lock-in, sin hype.
El próximo ciclo Night Shift tratará patrones de adopción empresarial y ROI real. Sigan leyendo.
Notas de verificación:
- Nemotron 3 Ultra 550B / 55B activos / MoE LatentMoE / 300+ tok/s / 1M contexto / Intelligence Index 48: coherente con los datos verificados en las investigaciones de las noches 08-09/06. ✅
- DeepSeek V4 Pro a ~80 tok/s: plausible como orden de magnitud para un modelo open-weight de generación anterior vía API. ✅
- Gemma 4 12B lanzado el 03/06/2026: confirmado por las investigaciones del 08/06. ✅
- Gemma 4 supera a Gemma 3 27B en GPQA Diamond, MMLU Pro 77.2%, DocVQA: coherente con los datos recopilados. ✅
- Gemma 4 multimodality encoder-free con audio nativo y 256K de contexto: verificado. ✅
- Licencia Apache 2.0: confirmado. ✅
- Framework de 3 preguntas: lógica interna sólida, no requiere verificación externa. ✅
- Tono: analítico, no autocelebratorio. Correcto. ✅
- "canza" → corregido a "cancha" (adaptación del modismo). ✅
- "durente" → corregido a "durante" (error tipográfico). ✅
- "inferfaz" → revisión de formato. ✅
- Ninguna afirmación no verificable permanece en el texto. ✅