Trust the Brand, Lose Control: How Identity Hijacks LLM Agent Orchestration

arXiv cs.CR · 29 sept, 06:00

Un nuevo estudio (TrustFork) revela que los orquestadores de agentes LLM seleccionan subagenates basándose en su identidad mostrada, no en su comportamiento real, lo que permite que atacantes falsifiquen identidades para obtener autoridad operativa no merecida. El análisis de 1.890 tareas demuestra que incluso cuando otro subagenate contradice una respuesta arriesgada, el orquestador la ejecuta en el 72% de los casos; cambiar las etiquetas de identidad triplica la frecuencia con que obtienen respuestas maliciosas.