Nudgeability: Reasoning Models Follow Confidence Signals Without Tracking Their Own Competence

arXiv cs.AI · 29 sept, 06:00

Un estudio sobre modelos de razonamiento de lenguaje revela que pueden ser fácilmente manipulados mediante señales de confianza o duda insertadas en el prompt, sin necesidad de reentrenamiento. Los modelos cambian significativamente sus decisiones de delegar tareas a herramientas basándose en estas señales, pero no correlacionan correctamente con su competencia real: hasta el 58% de los cambios inducidos son desacertados.