PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents

arXiv cs.AI · 16 oct, 06:00

Investigadores proponen PROBE, un algoritmo para entrenar auditores basados en LLM que detectan violaciones de políticas en sistemas agentic que usan herramientas externas. El método combina interacción multi-turno con diálogos mediados por herramientas para descubrir fallos de cumplimiento que los benchmarks tradicionales no capturan, como violaciones de privacidad, seguridad o confirmación que emergen tras múltiples llamadas.