Don’t be fooled—LLMs don’t reason

MIT Technology Review AI · 2 oct, 10:00

Un investigador de Google DeepMind analiza por qué los grandes modelos de lenguaje actuales no razonan verdaderamente, a diferencia de AlphaGo, que combinaba redes neuronales con búsqueda explícita en árbol de juego. Los modelos actuales solo generan predicciones token a token (Sistema 1), y aunque pueden producir cadenas de pensamiento, estos no representan un mecanismo de razonamiento genuino separado ni mantienen un estado epistémico explícito e inspeccionable.