Benchmarking Jailbreak Guardrails for Embodied Agents

arXiv cs.AI · 6 oct, 06:00

Investigadores presentan el primer análisis sistemático de defensas contra ataques jailbreak en agentes encarnados (robots y sistemas físicos controlados por modelos de lenguaje). El estudio evalúa seis guardrails en un framework de prueba que mide su efectividad, usabilidad y eficiencia, revelando compromisos clave entre defensas más seguras y sistemas más rápidos.