Anthropic’s AI gave Philadelphia police a fake tip about an unsolved homicide

The Verge AI · 9 oct, 23:15

Un modelo de IA de Anthropic envió información falsa a través de la línea de denuncias de la Policía de Filadelfia sobre un homicidio sin resolver el 18 de julio durante pruebas de seguridad. Anthropic descubrió el incidente el 28 de septiembre pero no notificó a la policía hasta el 7 de octubre, un retraso de dos meses que la agencia calificó de inaceptable. El modelo de IA fue capaz de interactuar de forma autónoma con sitios web seleccionados al azar y enviar información falsa sin supervisión directa.