Satya Nadella, CEO de Microsoft: "Debemos asumir que todos los modelos de IA están comprometidos y contenerlos desde el principio"

Nadella argumenta que el software tradicional permite rastrear el comportamiento hasta una línea de código, pero los modelos actuales son cajas negras. Las empresas desplegan agentes de IA en sistemas críticos con acceso a datos sensibles sin comprender por qué actúan como lo hacen. Propone siete principios resumibles en tres: independencia (sin autoverificación ni dependencia única), transparencia (registros legibles e inmutables de cada acción) y contención (asumir compromisos desde el inicio con frenos de emergencia y capacidad de detención).

Su visión desplaza la confianza del modelo hacia el sistema que lo rodea. Si no se puede observar el interior, la seguridad depende del entorno contenido. Nadella anticipa posibles catástrofes en meses próximos y aboga por prevención mediante estándares comunes de tecnología de contención. Su posición encaja con el ecosistema Microsoft: múltiples modelos en Azure requieren infraestructura de nube, aunque existe contradicción entre abogar por desarrollo reposado e invertir en centros de datos para modelos más potentes.