Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems

arXiv cs.CR · 5 oct, 06:00

Persona Guardrail es un framework de defensa en tiempo de ejecución para sistemas con agentes basados en modelos de lenguaje, diseñado para reforzar límites funcionales explícitos mediante validación de entrada y salida. El trabajo presenta PAGE, un benchmark para evaluar guardrails específicos de funcionalidad frente a solicitudes maliciosas y fuera de dominio, mostrando mejoras significativas en precisión (85,7% a 95,9%) y reducción de falsos positivos respecto a guardrails genéricos basados en LLM.