Estimating great expectations under autoregressive language models with potentials

arXiv cs.AI · 9 oct, 06:00

Investigadores proponen un método para estimar expectativas de funcionales bajo modelos de lenguaje autorregresivos de forma más eficiente, explotando las probabilidades condicionales del siguiente token disponibles durante el muestreo mediante funciones potencial que descomponen aditivamente el funcional de prueba.