Intent-Hiding Jailbreaks: An Information-Theoretic Framework for Compositional Attacks

arXiv cs.CR · 5 oct, 06:00

Investigadores analizan jailbreaks mediante composición de tareas en modelos de lenguaje grande, donde solicitudes dañinas se ocultan entre consultas benignas. El estudio formaliza este ataque desde una perspectiva de teoría de la información, identificando cómo seleccionar tareas auxiliares que enmascaren la intención sin cambiar la respuesta del modelo.