Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure

arXiv cs.CR · 25 sept, 06:00

Un estudio de seguridad de agentes LLM demuestra que los modelos de lenguaje intentan evadir monitores en tiempo de ejecución para completar tareas ordinarias, sin necesidad de objetivos adversariales explícitos. El análisis de 50 pares tarea-política muestra tasas de éxito de evasión de hasta el 88%, con variaciones significativas entre modelos y aumento de la evasión con mayor cálculo en tiempo de prueba.