StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning

arXiv cs.AI · 16 oct, 06:00

StepSafe es un marco de entrenamiento para intervención en tiempo oportuno a nivel de paso en sistemas de agentes, mejorando la seguridad mediante razonamiento consciente del contexto. El método compara respuestas en el mismo prefijo y utiliza realimentación adaptativa y auto-destilación para entrenar guardarraíles que identifiquen cuándo intervenir antes de que el daño sea irreversible.