Render Before Reading: Visual Rendering as a Prompt Injection Defense

arXiv cs.CR · 30 sept, 06:00

Investigadores demuestran que los LLM multimodales son más vulnerables a inyecciones de prompt cuando el contenido adversario es texto que cuando se entrega como imagen. Proponen una defensa sin entrenamiento llamada Pictionary que renderiza contenido no confiable como imágenes tipográficas antes de alimentar el modelo, reduciendo consistentemente las tasas de éxito de ataque en diez modelos diferentes.