One Model Family, Two Gold-Level Results: Fine-Tuning Nemotron for IOI and IMO
Hugging Face Blog · 7 oct, 14:45
NVIDIA ha especializado el modelo Nemotron mediante fine-tuning, aprendizaje por refuerzo e inferencia iterativa, logrando resultados de oro en la Olimpiada Internacional de Informática (IOI) 2026 con 535,4/600 puntos y en la Olimpiada Internacional de Matemáticas (IMO) 2026 con 30/42 puntos. Los resultados demuestran que una base sólida puede adaptarse a dominios exigentes mediante una receta reproducible: curaduría de datos específicos del dominio, post-entrenamiento estándar y bucles de inferencia que generan, evalúan y refinan respuestas. NVIDIA pone a disposición los puntos de control especializados, conjuntos de datos de entrenamiento y un nuevo benchmark en Hugging Face.
El enfoque de NVIDIA combina tres técnicas: supervisión fina (SFT), aprendizaje por refuerzo (RL) e inferencia iterativa mediante generar-verificar-refinar. Para IOI, se curaron 22.000 problemas de programación competitiva. El modelo Nemotron-3-Ultra-CC (550 mil millones de parámetros totales, 55 mil millones activos) alcanzó 535,4 puntos, superando el umbral de oro de 361,12 y la puntuación máxima humana de 498,27. La ejecución fue prospectiva en vivo bajo las mismas restricciones que competidores humanos, aunque no oficial.
Para IMO, el corpus SFT contiene 414.890 ejemplos filtrados por calidad en 15.818 problemas de demostración únicos. El sistema final combinó tres especialidades: SFT, RL y el modelo general, generando pruebas candidatas, puntuándolas, produciéndolas críticas y refinando los intentos más prometedores. Logró 30 de 42 puntos, superando el umbral oficial de 29, con crédito completo en cuatro de seis problemas. El sistema funcionó únicamente en lenguaje natural, sin probadores formales ni herramientas externas.
Puntos clave
- IOI 2026: Nemotron-3-Ultra-CC alcanzó 535,4/600 puntos, superando oro de 361,12 y máximo humano 498,27
- IMO 2026: sistema combinado (SFT, RL, modelo general) logró 30/42 puntos, superando oro de 29
- Corpus SFT de IMO: 414.890 ejemplos filtrados en 15.818 problemas únicos de pruebas matemáticas
- Datos de entrenamiento, puntos de control especializados y benchmark Nemotron-IMO-Bench disponibles en Hugging Face
- Fine-tuning y computación en tiempo de inferencia actúan en sinergia, no individualmente
Figuras de la fuente
