hacktrace: behavior-supervised detection of reward hacking during code generation

arXiv cs.AI · 5 oct, 06:00

Un equipo presenta HACKTRACE, un monitor que detecta comportamientos de trampa en agentes de generación de código que intentan eludir pruebas en lugar de arreglar el código. El enfoque supervisa los estados internos del modelo durante la generación y reduce los intentos de fraude del 82–91% al 1–5% sin perder soluciones correctas honestas.