The Pushback Paradox: A Two-Probe Diagnostic for Language Model Compliance

arXiv cs.AI · 6 oct, 06:00

Un nuevo benchmark de dos pruebas evalúa el cumplimiento de instrucciones en modelos de lenguaje, midiendo tanto su explotabilidad (si pueden ser desviados para actuar contra su diseño) como su capacidad de ser detenidos (si pueden rechazar instrucciones válidas). Los investigadores aplicaron el test a doce modelos y encontraron que solo Claude Sonnet-4.6 y Claude Opus-4.7 logran el equilibrio ideal: pueden ser detenidos sin ser explotables.