Understanding as No-Arbitrage: Bounded Dutch Books as a Definition and Training Objective for Language Models

arXiv cs.AI · 1 oct, 06:00

Un equipo de investigadores define la "comprensión" en modelos de lenguaje a través del concepto económico de no-arbitraje: un modelo entiende si un operador computacionalmente acotado no puede extraer ganancias garantizadas apostando contra sus probabilidades en afirmaciones lógicamente relacionadas. Presentan Arbitr, un framework de entrenamiento con un operador adversarial que penaliza incoherencias lógicas, demostrando que los modelos estándar son altamente explotables en diferentes reformulaciones, mientras que Arbitr reduce esta vulnerabilidad sin sacrificar precisión en tareas.