Beyond Predictable Paths: Redefining AI Security Incident Reporting for Agents

arXiv cs.CR · 22 sept, 06:00

Un análisis de investigadores y 23 expertos en academia e industria propone un marco para reportar incidentes de seguridad en agentes de IA, abordando elementos únicos como memoria, autonomía y acceso a herramientas. El trabajo identifica brechas en los marcos actuales de reporte y plantea cuestiones abiertas sobre cómo registrar eficientemente incidentes, generalizar vulnerabilidades, y proteger la infraestructura de reporte frente a fugas de datos y ataques dirigidos.