Muse will apparently let you download its entire filesystem
The Verge AI · 24 sept, 19:14
Dos desarrolladores independientes lograron extraer el sistema de archivos completo de Meta Muse, la plataforma de inteligencia artificial de Meta, con muy poco esfuerzo. Meta afirma que no se trata de una brecha de seguridad porque Muse ejecuta máquinas virtuales Linux persistentes para cada usuario, pero los investigadores obtuvieron acceso a archivos de documentación interna, configuración y código que revelan detalles sobre el funcionamiento interno del sistema. Esto es el segundo fallo de seguridad de Muse divulgado en una semana, tras el descubrimiento de un exploit que permitiría secuestrar el agente IA.
Los desarrolladores Peter James y Jonny L. Saunders demostraron independientemente que Muse carece de resistencia significativa contra prompt injection. Al solicitar al sistema que compartiera datos del filesystem, ambos lograron obtener archivos ZIP con cientos de megabytes de contenido, incluyendo archivos de configuración en Markdown y JSON que documentan cómo el sistema procesa solicitudes, gestiona datos y se conecta a servicios externos como Gmail. Saunders confirmó que el contenido incluye "cientos de MB de código de biblioteca preciso y binarios compilados" generados en segundos, sugiriendo que se trata de un dump real del sistema operativo Ubuntu subyacente.
La documentación extraída revela detalles técnicos significativos sobre la arquitectura de Muse: almacena su memoria en archivos Markdown sin formato, realiza reseñas nocturnas de conversaciones recientes ("dream") para mejorar futuras interacciones, y muchas de sus capacidades están hard-coded en scripts bash y Python. También se encontraron referencias a Meta Home Link, una característica de integración de hardware no anunciada públicamente que aparentemente otorgaría a Muse acceso a dispositivos de la red doméstica del usuario. Meta ha anunciado actualizaciones posteriores para limitar la información disponible sobre máquinas virtuales, aunque el portavoz Daniel Roberts minimizó el incidente comparándolo con acceder a archivos en un ordenador personal.
Puntos clave
- Dos investigadores lograron acceso al filesystem completo de Meta Muse sin encriptación ni restricciones significativas
- Muse mostró resistencia prácticamente nula contra prompt injection, aunque inicialmente rechazó algunas solicitudes
- Los archivos extraídos contienen cientos de MB de código compilado, documentación interna y configuraciones de infraestructura
- Muse almacena memoria en archivos Markdown y ejecuta procesos "dream" nocturnos para mejorar conversaciones futuras
- Segunda vulnerabilidad de seguridad divulgada en una semana; la anterior permitía secuestrar el agente IA