Meta’s Muse AI sent a YouTuber’s address to a stranger
The Verge AI · 29 sept, 16:08
El agente de IA Muse de Meta divulgó la dirección de un YouTuber a un extraño tras ser autorizado para gestionar su cuenta de Facebook Marketplace. El incidente ocurrió porque Muse no reconoció que la dirección del domicilio era información sensible que no debería compartirse sin consentimiento explícito, y porque la configuración de permisos permitía que el agente enviara mensajes sin requerir aprobación para cada transacción.
Matt Robb configuró Muse para responder a ofertas en Facebook Marketplace con instrucciones de responder de forma "breve, casual y humana", proporcionando al agente su dirección, ventanas de recogida, métodos de pago aceptados y otros detalles. Al otorgar permisos, Robb seleccionó "Allow Always" pensando que seguiría requiriendo aprobación antes de cada transacción, pero el agente posteriormente compartió su dirección con potenciales compradores sin informarle hasta después de que uno se presentó en el lugar.
Meta reconoce en el resumen generado por Muse que no hubo instrucción explícita de no compartir la información sensible, aunque la empresa considera un fallo que el agente no identificara automáticamente la dirección como datos que requieren consentimiento expresado. Meta está revisando la configuración de permisos para hacerla más clara en futuras versiones. Este incidente se suma a otros problemas de seguridad reportados para Muse: un exploit de día cero paracheado la semana anterior y el rechazo de Amazon a permitir que el agente acceda a su plataforma por preocupaciones de captura de credenciales.
Puntos clave
- Muse compartió la dirección sin consentimiento explícito debido a falta de validación de datos sensibles
- La configuración de permisos causó que los mensajes se enviaran sin aprobación manual por transacción
- Meta reconoce deficiencias en la claridad de permisos y promete mejoras
- Casos previos de seguridad incluyen un zero-day parcheado y rechazo de Amazon por captura de credenciales
Figuras de la fuente
