Nobody is safe from celebrity AI deepfakes
The Verge AI · 15 oct, 16:03
Las redes sociales están inundadas de deepfakes de celebridades generados por IA, desde imágenes sexualizadas no consentidas hasta vídeos de personajes públicos en situaciones ficticias. El caso de Mia Goth ilustra cómo una cuenta fraudulenta con verificación azul de Meta distribuyó imágenes falsas que se propagaron por buscadores y medios de comunicación, demostrando que ni siquiera las figuras públicas pueden escapar del abuso de estas herramientas. Las plataformas como Instagram, YouTube y Google intentan moderar este contenido, pero la ausencia de leyes de derecho de imagen nacional en EE.UU. y el crecimiento exponencial de herramientas generativas hace que sea cada vez más difícil contenerlo.
La escala del problema es alarmante: vídeos de IA de Taylor Swift, Lionel Messi y otros celebridades acumulan millones de visualizaciones en Instagram, frecuentemente en formatos sexualizados o difamatorios sin consentimiento. El caso de Scarlett Johansson ejemplifica cómo cuentas dedican contenido exclusivamente a imágenes generadas de ella, a menudo desnuda y usando su nombre para promocionar contenido adulto fuera de la plataforma. Meta permite que cualquiera compre una marca de verificación azul, facilitando que cuentas fraudulentas se hagan pasar por figuras públicas.
Sin leyes federales específicas sobre derechos de imagen, la moderación ocurre principalmente a nivel de plataforma. La Ley "Take It Down" (2025) criminaliza la distribución de imágenes íntimas no consentidas, incluyendo deepfakes, y obliga a las plataformas a removerlas en 48 horas. YouTube posee el sistema más robusto de detección de similitud visual. Sin embargo, el volumen de contenido generado diariamente supera claramente la capacidad de moderation humana y automatizada, dejando millones de visualizaciones de contenido falso antes de que sea detectado y removido.
Puntos clave
- Deepfakes sexualizados sin consentimiento de Scarlett Johansson, Taylor Swift, Millie Bobby Brown y otras celebridades acumulan millones de vistas
- Cuentas fraudulentas compran verificación azul en Meta para suplantar a figuras públicas distribuyendo contenido falso
- La Ley Take It Down (2025) exige retirada en 48 horas pero cubre solo imágenes íntimas no consentidas
- YouTube tiene sistema de detección de similitud visual, el más robusto entre plataformas
- Ausencia de leyes federales de derechos de imagen permite que la moderación sea únicamente a nivel de plataforma
Figuras de la fuente
