Reasoning-Token Spikes Under Prompted Untruthful Responding in Large Language Models

arXiv cs.AI · 8 oct, 06:00

Investigadores analizan el número de tokens de razonamiento generados por modelos de lenguaje grande para detectar respuestas deshonestamente provocadas. El estudio muestra que cuando se ordena explícitamente a tres modelos capaces de razonar responder falsamente, generan más tokens de razonamiento que cuando responden con veracidad, lo que podría servir como señal alternativa para distinguir comportamiento falso del honesto sin acceso al contenido del razonamiento.