Learning Strategies to Break Judges

arXiv cs.AI · 29 sept, 06:00

Investigadores proponen un método para identificar debilidades en agentes de IA que actúan como jueces evaluadores de razonamientos matemáticos. El enfoque usa agentes adversariales que mutan pruebas correctas introduciéndoles errores deliberados, logrando burlar evaluaciones de GPT-5.6-sol y Claude Opus 5. Los resultados muestran que los jueces agenticos tienen modos de fallo interpretables, especialmente con manuscritos de nivel de investigación.