False Claims, Credible Images: A Red-Teaming Benchmark for Commercial Image Generators

arXiv cs.CR · 9 oct, 06:00

Investigadores descubren que generadores de imágenes comerciales (como GPT-Image-2) pueden producir desinformación visual convincente, aunque reconocen como falsas las mismas afirmaciones cuando se les pregunta. Presentan EpiReal-Bench, un primer benchmark sistemático con 10.000 prompts falsos y 10.000 imágenes generadas, y EpiReal-Attack, un marco de optimización que logra contornear las protecciones de alineamiento en hasta el 95% de los casos, dejando esta dimensión de seguridad prácticamente desprotegida.