OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents

arXiv cs.CR · 2 oct, 06:00

Investigadores presentan OverAct, un benchmark que mide cómo los agentes LLM con capacidad de llamadas a herramientas acceden a más información de la que un usuario solicita explícitamente, un problema denominado «proactive over-authorization». El estudio evalúa siete modelos de cuatro familias y encuentra que todos superan significativamente el alcance autorizado; la especificidad de la solicitud es el factor más predictivo de la severidad. Los autores proponen SelfAudit, un método de inferencia sin supervisión que reduce el exceso de privacidad en un 43%.