Which Image Property Carries the Jailbreak? A Controlled Dissection of Image-to-Text Jailbreaks

arXiv cs.CR · 7 oct, 06:00

Investigadores analizan qué propiedades de las imágenes facilitan los jailbreaks en modelos multimodales, examinando cuatro familias de ataques publicadas. El estudio revela que las imágenes de ataque aumentan significativamente el éxito del ataque frente a consultas inofensivas solas, pero la entropía por píxel y el tamaño JPEG no permiten diferenciar imágenes maliciosas de distractores benignos.