When Tools Lie: Reliability of Mathematical Agents Under Corrupted Tool Feedback

arXiv cs.CR · 7 oct, 06:00

Un estudio sobre agentes matemáticos basados en IA revela que estos sistemas pueden ser engañados fácilmente cuando las herramientas devuelven resultados incorrectos pero plausibles. Los investigadores demuestran que sin verificación obligatoria, la corrupción de datos causa caídas drásticas en precisión (de 100% a 72,4%), pero que la verificación obligatoria puede recuperar el rendimiento completo.