Who Is Your Agent Serving? Provider-Side Indirect Prompt Injection in Proactive Agents

arXiv cs.CR · 6 oct, 06:00

Un estudio de arXiv identifica una nueva clase de ataque de inyección de prompts indirecta en agentes IA proactivos: un proveedor externo puede manipular el contenido asociado a su propio objetivo para redirigir al agente hacia él, sin necesidad de acceder al contexto privado del usuario o comprometer el sistema. Los ataques aumentan la autorización del objetivo hasta en 77,4 puntos porcentuales en todos los entornos probados, incluso cuando el usuario se resiste.