ASPIRE: Agentic Safety & Prompt Injection Red-teaming Engine

arXiv cs.CR · 8 oct, 06:00

ASPIRE es un motor automatizado de red-teaming para descubrir vulnerabilidades de inyección de prompts en agentes LLM que recuperan contenido no confiable. El sistema mantiene un grafo de comportamientos de seguridad y utiliza expertos de exploración y explotación para identificar pruebas centradas en consecuencias, ampliando significativamente la cobertura de riesgos de inyección de prompts indirectos.