CodeMimicry: Exploiting Safety Generalization Lag in Large Language Models via Structured Code Completion

arXiv cs.CR · 1 oct, 06:00

Se identificó una brecha en los mecanismos de seguridad de los grandes modelos de lenguaje (LLM): la «safety generalization lag» o retraso en la generalización de la seguridad, donde el alineamiento entrenado con lenguaje natural no se transfiere adecuadamente al dominio del código. El trabajo propone CodeMimicry, un framework de jailbreak automatizado que explota esta brecha generando prompts de código estructurado y orientado a objetos para eludir los controles de seguridad. Los experimentos demuestran una tasa de éxito del 96,25% en 8 LLM comerciales de última generación.