Friends don’t let friends feed their data to AI agents
The Verge AI · 15 oct, 18:21
Meta lanzó Muse, un agente de IA que ya alcanzó el número 1 en App Store con millones de descargas, pero plantea graves riesgos de privacidad al solicitar acceso a datos bancarios, contraseñas, contactos, mensajes y más. El problema crítico es que el agente también recopila datos de todos los contactos del usuario sin su consentimiento, compilando perfiles horarios detallados de las personas en su vida. Expertos de seguridad y organizaciones como la EFF advierten que Muse utiliza patrones oscuros en su interfaz para engañar a los usuarios a compartir más información de la que entienden.
Muse, lanzado el mes pasado por Meta, se presenta como un asistente autónomo que automatiza tareas cotidianas como rellenar facturas y enviar correos. Sin embargo, la investigación de expertos en seguridad ha revelado un proceso interno que compila y actualiza perfiles de todas las personas en la vida del usuario cada hora, midiendo qué tan cercanas son las relaciones, en qué se basan y qué necesidades tienen. El agente solicita permiso para acceder a información bancaria, contraseñas, registros de chat y fotos, pero usa patrones de interfaz diseñados para maximizar la compartición de datos.
Ya se han reportado incidentes preocupantes: algunos usuarios han visto a Muse acceder a millones de mensajes de texto que creían privados, y en otro caso el agente reveló la dirección de casa de un revisor de tecnología y convocó a un extraño a su apartamento. Meta atribuye estos problemas a permisos mal configurados, pero expertos como Eva Galperin (EFF) y Meredith Whittaker (Signal Foundation) subrayan que no existe forma práctica de optar por no participar: tus amigos pueden alimentar todas tus conversaciones privadas al asistente sin que lo sepas.
Puntos clave
- Muse accede a datos bancarios, contraseñas, contactos, mensajes y fotos del usuario
- El agente compila perfiles horarios de todas las personas en contacto del usuario sin consentimiento
- Incidentes reportados incluyen acceso no autorizado a mensajes y divulgación de domicilios
- La interfaz utiliza patrones oscuros para maximizar la compartición de datos
- No existe forma práctica de optar por no participar incluso si no usas Muse