Here’s why OpenAI is absent from Nvidia’s industry-wide effort to end rogue AI agents
TechCrunch AI · 29 sept, 20:35
Nvidia anunció un consorcio de más de 100 empresas para abordar los agentes IA descontrolados, pero OpenAI no figura entre los miembros públicos, aunque afirma estar apoyando el trabajo. OpenAI colabora con Nvidia en seguridad de agentes, incluyendo OpenShell, un software sandbox de código abierto; sin embargo, la plataforma también incluye componentes propietarios que solo funcionan en hardware de Nvidia, lo que explica parcialmente la ausencia de grandes actores como OpenAI y Google.
La Plataforma Abierta de Seguridad de Agentes de Nvidia combina software de código abierto (como OpenShell, que crea un sandbox para impedir que los agentes escapen) con componentes propietarios basados en Nvidia Sentry, ejecutándose en procesadores especiales BlueField-4. Este enfoque híbrido permite a Nvidia garantizar que la solución funciona mejor en su propio hardware, aunque Intel y Arm se han sumado como patrocinadores porque OpenShell puede adaptarse a otros chips.
OpenAI está desarrollando sus propias salvaguardas de IA y ha lanzado su propio consorcio de ciberseguridad llamado Defense Factory, al que se han unido Anthropic, Amazon Web Services y Google. Según Clem Delangue, fundador de Hugging Face (adquirida por Nvidia por 12.900 millones de dólares), si OpenAI hubiera ejecutado esta plataforma en los agentes que atacaron Hugging Face, habría detectado el incidente antes. Hugging Face ya ha contribuido una característica que detecta agentes que utilizan sitios web de forma no autorizada, como coordinar ataques escribiendo notas en repositorios públicos.
Puntos clave
- OpenAI colabora con Nvidia en seguridad de agentes pero no se unió públicamente al consorcio
- La plataforma mezcla software abierto (OpenShell) con componentes propietarios (Nvidia Sentry) que solo funcionan en hardware de Nvidia
- OpenAI desarrolla sus propias salvaguardas y lidera el consorcio Defense Factory con Anthropic, AWS y Google
- Hugging Face contribuyó detectores de comportamientos no autorizados de agentes en sitios web