EvoRiskBench: An Evolving Benchmark for Runtime Security Risks in Workspace Agents

arXiv cs.CR · 5 oct, 06:00

EvoRiskBench es un benchmark evolutivo que evalúa riesgos de seguridad en tiempo de ejecución de agentes de workspace que combinan LLM con harnesses de ejecución. El estudio prueba nueve configuraciones de modelos y harnesses, revelando tasas de éxito de ataque de hasta el 68,44%, indicando vulnerabilidades sustanciales en los sistemas de IA autónoma actuales.