SaplingGuard: A Multidimensional-Profile-Aware Multi-Agent Guardrail for Developmentally Safe Adolescent-LLM Interaction

arXiv cs.CR · 30 sept, 06:00

SaplingGuard es un guardrail multidimensional para LLMs que protege a adolescentes de riesgos implícitos y contextuales durante su interacción con modelos de lenguaje. El sistema utiliza tres agentes especializados que analizan el perfil del usuario, el contexto del diálogo y optimizan los prompts para mejorar la seguridad sin modificar los parámetros del modelo. En evaluaciones sobre SaplingBench, SaplingGuard reduce la tasa de respuestas dañinas del 17,10% al 5,27% y aumenta la puntuación de seguridad general.