“Tu lavadora está sujeta a más reglas de seguridad que la IA”: Brad Smith, presidente de Microsoft, pide frenar el Salvaje Oeste de la IA
Xataka IA · 14 oct, 12:00
Brad Smith, presidente de Microsoft, ha pedido una regulación global más estricta de la IA, argumentando que sistemas de IA potentes están sujetos a menos protocolos de seguridad que un cartón de leche o una lavadora. Smith propone tres medidas: un freno de emergencia para pausar sistemas descontrolados, informes obligatorios de incidentes y aprobación independiente antes del lanzamiento de modelos de frontera, posición que contrasta con la preferencia del presidente Trump por la autorregulación del sector.
Smith presentó sus propuestas en una entrevista al podcast Big Boss Interview de la BBC, describiendo la IA como "herramienta y arma" que avanza más rápido que la velocidad de la seguridad. Argumentó que Gran Bretaña está en la mejor posición para liderar normas globales gracias a su Instituto de Seguridad de la IA (AISI), creado bajo el mandato del ex primer ministro Rishi Sunak.
La posición de Smith crea fricción dentro de la industria: Microsoft no firmó el documento "moralmente vinculante" que Trump consiguió de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google a finales de septiembre, en el que estas empresas se comprometían a trabajar con auditores independientes. Smith apoyó esa declaración pero la consideró insuficiente, señalando que la autorregulación solo funciona con empresas responsables y que "las que hay que preocuparse es de las empresas que no son tan responsables". Según Politico, la Casa Blanca pidió el mes anterior a Anthropic y OpenAI no poner nuevos modelos a disposición de evaluadores británicos, aunque el AISI confirmó poder acceder a los últimos modelos.
Puntos clave
- Brad Smith pide regulación global de IA con aprobación independiente previa al lanzamiento
- Propone freno de emergencia para sistemas descontrolados e informes obligatorios de incidentes
- Microsoft no firmó la declaración voluntaria de septiembre pero está "encantado" de hacerlo
- La Casa Blanca supuestamente pidió a OpenAI y Anthropic no compartir modelos con evaluadores británicos
- Smith critica la autorregulación argumentando que solo empresas responsables la respetan