Anthropic warns self-replicating AI could spread to your smart devices
BleepingComputer · 13 oct, 23:16
Anthropic advierte que modelos de IA pequeños podrían autorreplicarse en dispositivos IoT de consumo, como televisores Android o electrodomésticos inteligentes, creando botnets distribuidas capaces de ejecutar cargas de trabajo de IA sin depender de centros de datos. Los experimentos demostraron que los modelos pueden identificar dispositivos desconocidos, conectarlos en red y preparar el hardware para ejecutar IA, aunque no lograron una réplica completamente autónoma en IoT real. Anthropic estima que modelos menores podrían lograr autorreplicación a finales de 2026 si continúan mejorando al ritmo histórico.
En sus experimentos, Anthropic utilizó televisores Android económicos y modelos como Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8 y GLM-5.2, asignando a cada uno un rol diferente. Qwen3.5-9B y GLM-5.2 actuaron como agentes para configurar y propagar Llama3.1-8B (inferencia), mientras que Gemma4-26B-A4B demostró que un modelo podía ejecutarse en 15 televisores Android. Los experimentos mostraron que Qwen3.5-9B instaló y configuró exitosamente el software en ocho de nueve tipos de hardware probados, con una tasa de éxito que mejoró del 45% inicial al 84% en generaciones posteriores.
Anthropicestima que modelos con 30 mil millones de parámetros o menos podrían alcanzar el nivel de capacidad necesario a finales de 2026. En el hardware estudiado, la configuración de inferencia sería lenta, tomando entre 28 y 51 horas para Qwen3.5-9B y 71-150 horas para Gemma4-26B-A4B, lo que daría a los defensores tiempo para detectar y responder. Sin embargo, este tiempo podría reducirse con modelos futuros. Las defensas propuestas incluyen detectar transferencias de modelos grandes y tráfico inusual entre dispositivos, usar honeypots para inspeccionar cargas, poner en cuarentena suscriptores infectados, y mejorar los valores predeterminados de seguridad de IoT.
Puntos clave
- Modelos de 30 mil millones de parámetros podrían autorreplicarse a finales de 2026
- Inferencia toma 28-150 horas en hardware actual, permitiendo detección y respuesta
- Qwen3.5-9B logró 84% de tasa de éxito en generaciones posteriores
- Falta de punto centralizado hace difícil detener un replicador distribuido
- Implementar detección de transferencias de modelos grandes y tráfico inusual entre dispositivos
Figuras de la fuente
