ECHO: Replacing the Compliance Proxy with Response Harmfulness in Optimization-Based Jailbreak Attack

arXiv cs.CR · 19 oct, 06:00

Investigadores presentan ECHO, un método de ataque de jailbreak contra modelos de lenguaje que reemplaza métricas tradicionales de cumplimiento con puntuaciones de nocividad basadas en respuestas reales. El ataque logra tasas de éxito del 89,23% en HarmBench al evaluar la capacidad perjudicial real en lugar de detectar solo prefijos afirmativos superficiales, demostrando un déficit importante en los mecanismos de alineación de seguridad.