TRACE: Temporal Risk Assessment and Concept Editing for Safer Language Generation

arXiv cs.AI · 14 oct, 06:00

Se presenta TRACE, un marco que supervisa y controla el riesgo de contenido dañino durante la generación de texto en modelos de lenguaje grande. El sistema utiliza un codebook de patrones de activación, detección de conceptos perjudiciales y edición selectiva de activaciones para mejorar la seguridad sin afectar significativamente a respuestas benignas, dejando un registro auditable de sus decisiones.