Jensen Huang y otros CEO han confrontado a Dario Amodei por sus mensajes tan extremos en materia de seguridad
Xataka IA · 1 oct, 18:31
Líderes de grandes empresas de IA enfrentaron a Dario Amodei (Anthropic) durante una reunión con la Administración Trump por sus advertencias públicas sobre los riesgos de los modelos de IA. Mientras que Amodei aboga por ralentizar el desarrollo y establecer pruebas federales, Jensen Huang (Nvidia) y Mark Zuckerberg (Meta) defienden un enfoque menos regulador. Se acordó un acuerdo voluntario de dos páginas que pide a los laboratorios de IA implementar supervisión interna y auditoría externa, aunque su cumplimiento sigue siendo incierto.
La reunión de martes entre la Administración Trump y ejecutivos de la IA reveló tensiones internas sobre cómo regular el sector. Amodei defendió su postura argumentando que la industria tiene el deber de informar al público sobre las capacidades de los modelos y sus riesgos, incluso apoyando la posibilidad de ralentizar el desarrollo si es necesario. Huang, en cambio, argumentó durante el almuerzo que la innovación y la seguridad no están en conflicto, y expresó su preocupación de que las regulaciones permitirían a China adelantar a Estados Unidos.
El acuerdo voluntario alcanzado incluye compromisos como establecer supervisión interna sólida, nombrar equipos de verificación, recurrir a auditores externos, e instituir comités independientes del consejo de administración. Sin embargo, Trump calificó el acuerdo de "moralmente vinculante" sin mecanismos de cumplimiento claro. La posición de Amodei es complicada: Anthropic prepara una salida a bolsa valorada en alrededor de 2 billones de dólares, y recientemente ha enfrentado cierres de seguridad y restricciones militares. Trump ha anunciado planes para nombrar un "zar de la IA" e instituir un comité de supervisión, aunque los compromisos voluntarios anteriores de era Biden han sido ampliamente ignorados.
Puntos clave
- El acuerdo voluntario de dos páginas requiere supervisión interna, auditores externos y comités independientes
- Huang sostiene que la innovación y seguridad no entran en conflicto; Amodei pide pruebas federales y ralentización
- Trump calificó el acuerdo como "moralmente vinculante" pero sin mecanismos de cumplimiento claro
- Anthropic prepara salida a bolsa de 2 billones de dólares mientras enfrenta presión reguladora
- Trump planea nombrar un "zar de la IA" y crear un comité de supervisión de aproximadamente 10 personas