50 muertos o 1.000 millones de dólares en daños: el listón que Anthropic quiere fijar para que el Gobierno pueda frenar un modelo de IA
Xataka IA · 19 oct, 14:47
Anthropic ha presentado un borrador de proyecto de ley sobre seguridad de modelos de IA en el Congreso estadounidense que fija umbrales muy altos para que el gobierno pueda detener un modelo: 1.000 millones de dólares en daños o 50 muertes. La propuesta concentraría el poder de intervención exclusivamente en el Departamento de Comercio, requiriendo autorización judicial para bloquear un lanzamiento.
Según Politico, el borrador refleja el Marco de IA Avanzada que Anthropic promueve desde junio. El texto permite al gobierno bloquear un modelo solo si presenta un riesgo inminente y previsible de causar más de 1.000 millones de dólares en daños o muertes/lesiones graves a más de 50 personas. Evaluadores independientes, registrados en Comercio, monitorearían periódicamente a los laboratorios de IA; si detectan un "riesgo inminente", tienen 72 horas para reportarlo. Solo el Departamento de Comercio podría solicitar a un juez federal detener el lanzamiento.
La propuesta también exigiría a los laboratorios crear marcos de seguridad, publicar informes de transparencia, proteger a denunciantes y notificar incidentes críticos. Sin embargo, varios incidentes de 2024—como el hackeo a Hugging Face por agentes de OpenAI o intrusiones en webs gubernamentales—no habrían superado ese umbral según los criterios del borrador, lo que ha generado dudas en el sector sobre si la medida es adecuada.
Puntos clave
- Umbral: 1.000 millones de dólares o 50+ muertes para detener un modelo
- Solo Departamento de Comercio puede solicitar intervención judicial
- Evaluadores independientes reportan riesgos en 72 horas
- Labs deben publicar transparencia y proteger denunciantes
- Borrador aún no respaldado formalmente por Anthropic
Figuras de la fuente
