Los agentes de IA están aprendiendo a mejorar su propio software. La clave puede estar en predecir sus errores antes de cometerlos
Xataka IA · 16 oct, 23:54
Investigadores de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua han desarrollado un método para que agentes de IA mejoren su propio código y instrucciones de forma más segura. El sistema predice si una modificación podría fallar antes de implementarla, permitiendo revisiones adicionales. En pruebas con 166 tareas de programación, la tasa de éxito mejoró de aproximadamente el 16% inicial a casi el 30% con el nuevo predictor.
El enfoque combina el sistema HyperAgents (donde dos agentes trabajan juntos: uno resuelve tareas, otro propone mejoras) con el Improvement Dynamics Model (IDM), un componente que analiza cambios propuestos y estima sus consecuencias basándose en experiencia acumulada. El IDM puede distinguir entre tareas que producirían respuestas incorrectas y las que ni siquiera se completarían. En un ejemplo concreto, el predictor detectó que unas instrucciones con error de sintaxis dejarían tareas incompletas, motivando una revisión que permitió resolver 11 tareas tras corregir el código.
Los resultados muestran mejoras progresivas: HyperAgents sin predictor alcanzó una mediana del 22%, mientras que con el nuevo método llegó al 30%. El predictor en sí también es entrenable: cada cinco rondas el agente propone mejoras a su funcionamiento, incorporadas solo si superan validación posterior. Cuando se entrenó con tareas de predicción de aceptación de artículos científicos y diseño de recompensas para robots, mejoró su desempeño en nuevas tareas de clasificación matemática (55% de exactitud frente al 51% inicial). Sin embargo, el coste computacional es significativamente mayor: el nuevo método requirió 170 millones de tokens frente a los 49 millones de HyperAgents, aunque incluso con presupuesto igualado mantuvo una ventaja del 10,9% en rendimiento acumulado.
Puntos clave
- Predice fallos antes de implementar cambios en código e instrucciones de agentes IA
- Mejora tasa de éxito del 16% a 30% en tareas de programación
- El predictor también es entrenable y transfiere mejoras entre tareas diferentes
- Requiere 170 millones de tokens contra 49 millones del sistema base
- Pruebas solo en entornos controlados; aplicación en software real aún por demostrar
Figuras de la fuente
