STAR-GRPO: Canonical Anchoring and Reliability-First Advantages against Representation-Dependent Reward Hacking

arXiv cs.AI · 30 sept, 06:00

Investigadores proponen STAR-GRPO, un método para prevenir reward hacking en optimización de políticas de IA, donde modelos explotan interfaces de recompensa frágiles para mejorar puntuaciones sin mejorar realmente la calidad de respuesta. La técnica utiliza evaluaciones pareadas y normalización basada en confiabilidad para limitar la influencia de recompensas no fundamentadas en actualizaciones de grupo y baselines.