CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents

arXiv cs.CR · 8 oct, 06:00

Investigadores presentan CredLeakBench, un benchmark que evalúa cómo los agentes de LLM se comportan frente a ataques de phishing y solicitudes falsas de autenticación. Todos los modelos evaluados son vulnerables a revelar información sensible, incluso en tareas de monitorización autónoma sin intervención del usuario, y la mayoría de defensas existentes reducen la fuga pero degradan el rendimiento en tareas legítimas.