An Exploration of Attacks on AI Agent Systems

arXiv cs.CR · 12 oct, 06:00

Un estudio en arXiv analiza cómo los ataques de prompt injection pueden explotar las entradas de usuario directo y la comunicación entre agentes de IA para filtrar información sensible e infectar múltiples agentes. La investigación se centra principalmente en sistemas de un único agente, pero también extiende los ataques a marcos multi-agente, demostrando cómo las vulnerabilidades pueden propagarse entre agentes.