Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security

arXiv cs.AI · 7 oct, 06:00

Un estudio propone DEFER1, un sistema de defensa para multiagentes basados en LLM que organiza controles de seguridad en cinco principios: una cascada de 28 comprobaciones deterministas bloquea ataques conocidos y remite casos ambiguos a un panel de cuatro jueces. En pruebas independientes, las tasas de éxito de ataque caen de aproximadamente 30% a 3%, con el 78% de ataques bloqueados por reglas deterministas.