Robust Nash Alignment under Preference Uncertainty

arXiv cs.AI · 2 oct, 06:00

Investigadores proponen Robust Nash Alignment, un marco teórico basado en teoría de juegos para alinear modelos de lenguaje con preferencias humanas inciertas, ruidosas o heterogéneas. El método introduce un juego de cuatro jugadores y un algoritmo de descenso espejo optimista para optimizar políticas robustas frente a la variabilidad en las preferencias.