Efficient Auditing of Adversarial AI Agent Behavior from Agent Traces

arXiv cs.CR · 7 oct, 06:00

Investigadores presentan un marco de auditoría eficiente para detectar comportamientos adversariales en agentes de IA basados en LLMs. El sistema combina reglas automáticas con auditoría mediante LLM, reduciendo significativamente el costo computacional mientras mantiene una tasa de detección aceptable en benchmarks públicos.