CollageAttack: Exploiting Cross-Modal Alignment Flaws in T2I Models through Spatial Text Composition

arXiv cs.CR · 1 oct, 06:00

Investigadores demuestran CollageAttack, un ataque de jailbreak contra modelos de generación de imágenes (T2I) que exploita cómo éstos alinean texto e imágenes. El ataque distribuye fragmentos de texto y contexto espacialmente en el prompt de forma que el significado dañino permanece oculto durante la procesamiento lineal del texto pero emerge en la composición visual final, logrando tasas de éxito de hasta el 86% en modelos comerciales y de código abierto.