Towards a Unified Misuse Monitoring Benchmark

arXiv cs.CR · 7 oct, 06:00

Investigadores proponen un marco unificado para monitorizar el mal uso de agentes de LLM en entornos multiactor, abordando ataques de descomposición (donde solicitudes dañinas se dividen en sub-solicitudes inocuas) e inyecciones de prompt. El estudio introduce un benchmark de ~6.200 transcripciones etiquetadas con ventanas de daño y evalúa 17 configuraciones de monitores, hallando que los monitores basados en acciones funcionan bien (AUC: 0,95 y 0,99) mientras que los basados en contenido fallan frente a inyecciones.