Anthropic advierte que los modelos de IA podrían autorreplicarse pronto en televisores inteligentes y dispositivos IoT
Segu-Info · 15 oct, 14:30
.webp)
Anthropic publica una investigación que demuestra que los modelos de IA pequeños podrían autorreplicarse mediante televisores inteligentes y dispositivos IoT poco seguros en los próximos meses. Los investigadores lograron ejecutar un modelo de IA distribuido en decodificadores Android TV económicos y establecer inferencia en múltiples tipos de hardware, simulando cómo futuros gusanos de IA podrían propagarse sin depender de un único centro de datos. Aunque los autores subrayan que no han observado replicadores maliciosos activos, sus hallazgos documentan avances técnicos preocupantes hacia esa amenaza.
El equipo de investigación dirigido por William Zhou y Daniel Freeman probó la ejecución del modelo Gemma4-26B-A4B en 15 decodificadores Android TV genéricos (costo aproximado de 55 dólares cada uno), cada uno con 4 GB de RAM. Mediante inferencia distribuida, repartieron las capas del modelo entre los dispositivos, logrando una velocidad combinada de 0,39 tokens por segundo. Un modelo de nueve mil millones de parámetros estableció inferencia exitosa en ocho de nueve tipos de hardware distintos.
La investigación también empleó el agente GLM-5.2 en ocho máquinas virtuales de Google Cloud ejecutando emuladores Android sin autenticación en sus puertos ADB. El agente alcanzó las ocho máquinas en cuatro de cinco intentos y siete máquinas en el intento restante. La cadena de replicación propuesta incluye: localizar objetivos, obtener acceso, configurar inferencia y propagarse desde nuevos anfitriones infectados. Los investigadores se enfocaron en la configuración de inferencia, que requiere seleccionar software, resolver dependencias de paquetes y gestionar diferentes sistemas operativos.
Puntos clave
- Modelos de IA ejecutándose en hardware económico (decodificadores Android TV de 55 dólares)
- Inferencia distribuida: Gemma4-26B-A4B en 15 dispositivos con 4 GB RAM cada uno
- Velocidad combinada de 0,39 tokens por segundo demostración de viabilidad técnica
- Agente GLM-5.2 logró propagarse a máquinas en red aislada sin autenticación ADB
- No se ha observado malware de IA activo; hallazgos muestran avances hacia la amenaza