Clarification Is Not Correction: LLMs Fail to Let Go

arXiv cs.AI · 23 sept, 06:00

Investigadores descubren que los LLMs cometen errores de interpretación temprana (early posterior collapse) en diálogos: cuando el modelo recibe instrucciones ambiguas, colapsa en una única interpretación oculta y no la revisa aunque se proporcione información aclaratoria después. En tareas de escritura, planificación y codificación con Gemini-2.5, el orden de la información genera resultados diferentes incluso con datos finales equivalentes, evidenciando que la clarificación posterior se filtra a través del compromiso inicial. Los prompts estándar y estrategias de memoria no mitigan el problema de forma fiable, lo que sugiere la necesidad de rediseñar cómo los asistentes mantienen estados de tarea inciertos.