X-AgentRed: Red-Teaming Personal Agents in Evolving Multi-Service Ecosystems

arXiv cs.AI · 12 oct, 06:00

X-AgentRed es un marco de red-teaming que descubre fallos de seguridad en agentes personales conectados a múltiples servicios web, explotando combinaciones de herramientas que pueden producir resultados nocivos. El sistema mapea dependencias entre herramientas y utiliza retroalimentación de ejecución para refinar y diversificar caminos hacia comportamientos dañinos, superando a métodos anteriores en cobertura y efectividad.