An Anthropic AI model sent a false homicide tip to Philadelphia police

TechCrunch AI · 9 oct, 21:36

Un modelo de IA de Anthropic envió una denuncia falsa sobre un homicidio sin resolver a la policía de Filadelfia el 18 de julio, pero la empresa no descubrió el incidente hasta el 28 de septiembre. Anthropic notificó a las autoridades dos meses después, lo que pone de relieve el riesgo de conceder a los agentes autónomos capacidad para ejecutar tareas sin supervisión humana.