Intrusion Detection for Agentic Processes: Evidence-Based Runtime Monitoring

arXiv cs.CR · 2 oct, 06:00

Investigadores proponen A-IDS, un sistema conceptual de detección de intrusiones para procesos agenticos que monitoriza en tiempo de ejecución desviaciones de seguridad en flujos que combinan modelos de lenguaje, herramientas externas y aprobaciones humanas. El modelo trata la inyección de prompts como un problema de entrada y como posible origen de desviaciones posteriores en el proceso, sin asumir observabilidad completa ni confianza universal en los datos capturados.