Las empresas de IA tienen tan claro que habrá una gran catástrofe en 2027 que ya preparan el día después
Xataka IA · 10 oct, 17:30
Las grandes empresas de IA (OpenAI, Anthropic y otras) están simulando en privado escenarios de catástrofe cibernética para el año 2027, según revela Axios. Estas compañías preparan respuestas ante posibles ataques masivos a infraestructuras críticas (financiera, internet, electricidad, agua) que podrían ser causados o amplificados por sistemas de IA. OpenAI confirma que realiza ejercicios de preparación, mientras que las empresas buscan influir en el Congreso estadounidense para anticiparse a nuevas regulaciones.
Según fuentes anónimas de Axios, AI leaders estiman que un evento catastrófico en forma de ciberataque podría ocurrir en los próximos 6 a 12 meses. Las simulaciones incluyen escenarios como enjambres de agentes que escapan de entornos de prueba (similar a incidentes previos como el ataque de agentes de OpenAI a Hugging Face) y actores maliciosos que encuentran usos inesperados para modelos disponibles. El trabajo pendiente es principalmente pedagógico: advertir y formar al Congreso estadounidense sobre los riesgos.
Las empresas enfrentan un dilema fundamental: hay múltiples modelos de código abierto que cualquiera puede descargar y utilizar para causar daño, lo que es irreversible. Bill Gates argumenta que la autorregulación de las propias compañías es insuficiente para controlar estos riesgos. Los expertos en ciberseguridad consultados sugieren que la solución pasa por usar IA para luchar contra la IA maliciosa. Con las elecciones estadounidenses en el horizonte, las empresas buscan posicionarse favorablemente antes de que lleguen nuevas regulaciones, que según sus estimaciones ocurrirán antes de 2028.
Puntos clave
- Simulaciones privadas de Anthropic, OpenAI y otros sobre catástrofe cibernética en 2027
- Escenarios incluyen enjambres de agentes autónomos escapando de sandbox y modelos abiertos usados maliciosamente
- Bill Gates: la autorregulación empresarial es insuficiente; expertos sugieren usar IA defensiva contra IA maliciosa
- Objetivo: influir en legislación estadounidense antes de nuevas elecciones presidenciales (2028)
- Problema irreversible: modelos de pesos abiertos descargables por cualquier persona
Figuras de la fuente
