RISE: Red-teaming via Iterative Strategy Evolution for Modern Text-to-Image Models

arXiv cs.AI · 29 sept, 06:00

Un equipo presenta RISE, un método de red-teaming que evoluciona estrategias reutilizables para generar prompts que eludan las protecciones de sistemas de síntesis de texto a imagen modernos como DALL-E 3 y GPT-Image-2. El trabajo revela que los jueces VLM utilizados en evaluaciones previas son poco fiables con objetivos vagos de contenido inseguro, y que los métodos anteriores sufren problemas de exploración cuando los guardrails están endurecidos.