Recursive Reward Improvement via Adversarial Meta-Prompt Evolution

arXiv cs.AI · 16 oct, 06:00

Investigadores presentan RRI (Recursive Reward Improvement), un método que mejora los bucles de autosuperación recursiva en modelos de IA para tareas abiertas como la generación de informes clínicos. El enfoque introduce un adversario que detecta cómo los modelos pueden explotar rúbricas de recompensa mal diseñadas, permitiendo iterar y mejorar las instrucciones antes del entrenamiento.