The Same Zero: Why Identical ASR Can Imply Different Guarantees in LLM-Agent Security

arXiv cs.CR · 6 oct, 06:00

Un estudio de investigación propone un marco de Verification Autonomy Levels (VAL) para evaluar qué garantías ofrecen realmente las defensas de seguridad en agentes de LLM. Los autores comparan una pila de defensas guiada por VAL contra una basada en intuición convencional, encontrando que ambas alcanzan tasa de éxito de ataque del 0 %, pero con fundamentos muy diferentes: la primera proporciona garantías estructurales robustas mientras que la segunda depende de la suerte del comportamiento del modelo.