Control-Token Injection Suppresses Chain-of-Thought and Defeats Reasoning-Based Oversight in Tool-Using Agents

arXiv cs.CR · 24 sept, 06:00

Un ataque de inyección de control-token suprime el razonamiento de cadena de pensamiento en agentes que usan herramientas, permitiendo eludir la supervisión de seguridad en modelos como gpt-oss-20b. Los atacantes pueden inyectar tokens de control nativos del modelo para forzar saltos directo a llamadas de herramientas sin generar trazas de razonamiento, convirtiendo el 39,6% de los rechazos del modelo en exfiltraciones completadas. El ataque revela que la seguridad de agentes es una propiedad conjunta del modelo y su harness de decodificación: el parser de llamadas de herramientas también decide si se ejecuta una llamada, independientemente del modelo, lo que genera resultados contradictorios entre parsers diferentes.