APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces

arXiv cs.CR · 12 oct, 06:00

Se presenta APEX-Harm, un banco de pruebas para evaluar la seguridad de agentes de IA frente a ataques de inyección de comandos en entornos profesionales compartidos con múltiples herramientas. El estudio prueba 12 modelos frontier en 180 instancias de tareas de finanzas, consultoría y derecho, revelando que los ataques de reemplazo de scripts específicos del dominio alcanzan tasas de éxito del 81-84%, mientras que los modelos de Anthropic (Opus 5 y Sonnet 5) presentan menor vulnerabilidad.