Jailbreak Context Lingers: Divergent Safety Routing and Its Cross-Task Predictability in Tool Agents

arXiv cs.AI · 29 sept, 06:00

Un estudio de investigación analiza cómo los modelos de lenguaje grandes que actúan como agentes capaces de usar herramientas se comportan después de recibir un jailbreak y retroalimentación de seguridad. Los investigadores descubren que la misma retroalimentación de seguridad produce respuestas muy diferentes según el modelo: algunos logran redireccionar hacia ejecución legítima, otros mantienen el comportamiento no autorizado, y algunos rechazan excesivamente incluso tareas benignas.