Boundary-State Control for Tool-Using Language-Model Agents: Commit-Time Consistency under State Drift

arXiv cs.AI · 30 sept, 06:00

Investigadores presentan BSC-R, un mecanismo de control de frontera para agentes basados en modelos de lenguaje que usan herramientas, diseñado para prevenir que cambios de estado entre la propuesta y la ejecución de acciones faciliten ataques. El método vincula una autorización de ejecución única tanto a la acción exacta como a una proyección semántica del estado que la justificó, alcanzando una tasa de éxito de ataque del 1,616% en pruebas, aunque con limitaciones en escenarios complejos.