Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material
TechCrunch AI · 7 oct, 18:53
Meta desplegó nuevas herramientas de IA para detectar anuncios que redirigen ocultamente a contenido de abuso infantil, tras reportar 33,2 millones de piezas de contenido de explotación infantil en el primer semestre de 2026. El sistema incluye un modelo de lenguaje grande que identifica "signposting" (anuncios aparentemente inofensivos que dirigen a usuarios a contenido ilegal fuera de Meta) y un agente de red-teaming para probar las defensas de seguridad de la plataforma.
Meta actúa sobre más del 97% del contenido de explotación infantil antes de que los usuarios lo reporten. En India detectó 5,3 millones de piezas durante el mismo período, con una tasa de detección previa del 98%.
Las nuevas herramientas abordan el cambio táctico de los actores maliciosos, que utilizan anuncios aparentemente benignos para dirigir a usuarios a destinos externos que alojan material de abuso infantil. El nuevo enfoque de IA analiza tanto el contenido del anuncio como su destino final, bloqueando sitios web que violan las normas de Meta y actuando contra las cuentas responsables. Un agente de IA de red-teaming prueba internamente las medidas de seguridad para identificar debilidades. Meta también mejora la detección de usuarios que crean nuevas cuentas tras la eliminación de anteriores.
Puntos clave
- Meta detectó 33,2 millones de piezas de contenido de explotación infantil en H1 2026 (97% antes de reportes de usuarios)
- LLM específico detecta "signposting": anuncios que redirigen a contenido ilegal fuera de la plataforma
- Agente de IA de red-teaming prueba internamente defensas contra métodos de abuso emergentes
- Mejora en detección de reaparición de usuarios con nuevas cuentas tras eliminación