Multi-Aspect Runtime Verification for Simulation-Based V&V of LLM-Enabled Autonomous Agents

arXiv cs.CR · 8 oct, 06:00

Investigadores presentan un marco de verificación en tiempo de ejecución para agentes autónomos basados en LLM que deben cumplir obligaciones predefinidas en contextos militares y de defensa. El enfoque descompone políticas en lenguaje natural en especificaciones espaciales, temporales y semánticas que se monitorean de forma independiente, detectando cadenas de ataque multi-paso que los guardrails convencionales no capturan.