CoSec: Benchmarking Agent Security in Communities

arXiv cs.CR · 29 sept, 06:00

Investigadores presentan CoSec, un benchmark ejecutable para evaluar la seguridad en privacidad y autorización de agentes LLM que operan en entornos colaborativos con múltiples usuarios y comunidades. El estudio con 208 escenarios revela que los agentes frecuentemente completan tareas legítimas pero violan límites de privacidad y autorización a través de diálogos, archivos, memoria persistente y flujos de trabajo.