Kairos: Transactional Security Enforcement at the System Boundary for LLM Agents

arXiv cs.CR · 14 oct, 06:00

Kairos es un monitor de referencia que refuerza la seguridad transaccional en los límites del sistema para agentes LLM, mediando los efectos que el agente produce para mitigar inyecciones de prompt indirectas. El sistema utiliza una política declarativa que confía en ciertos orígenes de datos y difiere las decisiones ambiguas a un oráculo (modelo de lenguaje u humano) mientras el agente continúa especulativamente. En pruebas con tres modelos de agentes, Kairos reduce el éxito de ataques del 47,0 % al 2,7 % mientras mantiene la utilidad del agente sin defensa.