Language Is a Security Surface for Agent Guards

arXiv cs.CR · 16 oct, 06:00

Un estudio presenta LinguaGuardBench, un conjunto de pruebas que evalúa si los guards de agentes de IA (sistemas que validan cada acción antes de ejecutarla) producen veredictos diferentes cuando la solicitud del usuario está en idiomas distintos del inglés. Los investigadores encontraron que muchos guards, especialmente los modelos pequeños y de propósito específico, cambian sus decisiones de seguridad al traducir instrucciones al alemán, francés, turco, suajili y amárico, con efectos más pronunciados en idiomas menos comunes.