NVIDIA publica Dory 1.0 de 4.000 millones de parámetros con cómputo recurrente ajustable durante la inferencia
NVIDIA publica Dory 1.0 de 4.000 millones de parámetros con cómputo recurrente ajustable durante la inferencia
El modelo oficial, liberado el 16 de octubre, reutiliza un bloque de capas para variar el esfuerzo por token. La ficha advierte que el soporte específico en vLLM aún está en revisión.
Un lanzamiento oficial con arquitectura recurrente
NVIDIA publicó Dory 1.0 de 4.000 millones de parámetros en su organización oficial de Hugging Face, con fecha de lanzamiento del 16 de octubre. El modelo aplica repetidamente un bloque compartido de capas para ajustar el cómputo de inferencia sin cambiar de checkpoint.
La ficha declara contexto de hasta 256.000 tokens, soporte de inglés y formatos BF16, MXFP8, NVFP4 y Q5_K_M. Son variantes de un mismo lanzamiento, no cuatro novedades independientes ni conversiones comunitarias.
Evaluar el costo completo del razonamiento
Más iteraciones pueden modificar precisión, cantidad de tokens y latencia; no garantizan mejorar cada tarea. Los resultados publicados son evaluaciones de NVIDIA, y deben contrastarse con cargas propias. La licencia indicada es OpenMDW 1.1, cuyas condiciones requieren revisión.
La documentación específica señala que su soporte en vLLM seguía bajo revisión, por lo que no debe asumirse compatibilidad estable por una plantilla automática de instalación. Para desplegarlo, conviene validar versiones, memoria y modos de caché antes de exponer datos sensibles.
Fuentes y referencias
Esta publicación es una síntesis original. Consulte las fuentes primarias para información técnica completa y actualizaciones.
- 1
¿Esta amenaza puede afectar a su empresa?
ENERIT puede ayudarle a evaluar exposición, priorizar remediaciones y fortalecer su operación de ciberseguridad.
Hablar con un especialista