HARDE: Optimizing Agent Harnesses for Runtime Risk Detection and Execution Control

arXiv cs.CR · 1 oct, 06:00

Investigadores presentan HARDE, un framework para optimizar harnesses (arneses de seguridad) que protegen agentes LLM contra riesgos en tiempo de ejecución, como inyecciones de instrucciones maliciosas o información engañosa. El sistema integra monitorización basada en LLM y ejecuta intervenciones de seguridad dirigidas mientras preserva la funcionalidad normal de las tareas.