Recoverability-Controlled Safety Miscalibration in Large Language Models

arXiv cs.CR · 19 oct, 06:00

Investigadores presentan RiskCueBench, un banco de pruebas que evalúa cómo los modelos de lenguaje grande alineados en seguridad distinguen entre la intención subyacente de una consulta y su formulación superficial. El estudio encuentra que aunque un modelo comprende correctamente la intención dañina, puede comportarse de forma menos segura cuando la solicitud se presenta con mayor especificidad contextual, revelando un desajuste en la calibración de seguridad.