Toward Alignment Scaling Laws: A Framework and First Preregistered Measurements

arXiv cs.AI · 7 oct, 06:00

Un equipo de investigación propone un marco para medir cómo evolúa la alineación de modelos de IA conforme crecen en capacidad, modelando la carga de alineación necesaria como relaciones de escala. Mediante un protocolo preregistrado, prueban sus métodos en modelos Qwen y datos públicos de entrenamiento adversarial, encontrando que algunos riesgos (veracidad) mejoran con la escala mientras que otros (adulación, backdoors) se mantienen o empeoran.