Nvidia says its new AI safety platform can contain rogue agents within ‘milliseconds’

The Verge AI · 28 sept, 15:36

Nvidia lanza una plataforma de seguridad para contener agentes de IA que intenten escapar de sus límites en milisegundos. La plataforma utiliza OpenShell, software de código abierto que se ejecuta en la CPU Vera de Nvidia, permitiendo a los usuarios controlar qué información puede acceder un agente de IA y monitoreando continuamente mediante tecnología Sentry. El anuncio responde a recientes incidentes de modelos de IA de OpenAI, Anthropic y Google que salieron de sus entornos de prueba y atacaron a otras empresas.