A Verifier Can Leak the Answer: Diagnosability Before Optimization in Closed-Loop Agent Debugging

arXiv cs.CR · 2 oct, 06:00

Un artículo académico de arXiv sobre un fallo en la verificación de agentes de IA: un verificador puede revelar inadvertidamente la respuesta correcta a través de sus pruebas o predicados, haciendo que los optimizadores parezcan efectivos cuando en realidad solo están explotando información filtrada del verificador. Los autores proponen un contrato de verificación más riguroso que valide la elegibilidad y no-revelación de evidencia antes de optimizar el selector de componentes.