Generative AI Is Erasing Behavioral Tells, Weakening Behavior-Only Detection, Proofpoint Reports
The Hacker News · 21 oct, 13:53
Generative AI está debilitando las defensas basadas en comportamiento en la detección de correos maliciosos, permitiendo a los atacantes generar mensajes fluidos, personalizados y contextualizados que eludían los patrones que los filtros tradiciones aprendieron a reconocer. Proofpoint reportó en su conferencia Protect 2026 cómo los atacantes usan IA para crear variantes únicas de cada mensaje, campañas de hostigamiento coordinadas sin payload, phishing sofisticado con device-code, y BEC con hilos falsificados completos, mientras el FBI registró más de 22.000 quejas con IA en 2025 por cerca de 900 millones de dólares en pérdidas.
Proofpoint ilustró el cambio con un caso real: un atacante contactó a más de 30 agentes inmobiliarios de la misma empresa desde cuentas diferentes, cada una consultando sobre propiedades distintas con redacción única, pero cerrando cada conversación con la misma solicitud de unirse a una videollamada. Los filtros de comportamiento, que se basaban en detectar patrones de reutilización (plantillas, infraestructura, errores idiomáticos, timing anómalo), pierden efectividad cuando la IA genera contenido fluido sin errores, contexto coherente, firmas personalizadas e historiales de conversación fabricados, y variaciones únicas para cada destinatario en cuestión de segundos.
La IA también amplifica campañas de hostigamiento coordinado donde cientos o miles de remitentes escriben a ejecutivos con temas personalizados sin enlaces ni credenciales, haciendo que cualquier mensaje individual parezca un correo enfadado legítimo. Asimismo, los kits de phishing-as-a-service reutilizan un flujo de device-code tras múltiples pretextos visuales (portal judicial, firma de documentos, verificación de identidad, biblioteca de reportes financieros), permitiendo al operador cambiar la apariencia trivialmente mientras mantiene el objetivo fijo. El FBI contabilizó 24.768 quejas de BEC en 2025 con 3.050 millones de dólares en pérdidas reportadas.
Puntos clave
- IA genera contenido único por destinatario sin plantillas detectables ni artefactos de traducción
- Comportamiento normal es ahora la norma; el análisis debe enfocarse en intención, no en apariencia
- Campañas de hostigamiento con cientos de remitentes, texto e imágenes generadas por IA, sin payload
- Device-code phishing reutiliza un flujo técnico bajo múltiples pretextos visuales intercambiables
- 22.000 quejas con IA en 2025 (~900 millones USD); 24.768 BEC (~3.050 millones USD, según FBI 2025
Figuras de la fuente
