Backdooring Open-Weight AI Models

Schneier on Security · 16 oct, 13:04

Investigadores de Schneier on Security demostraron cómo insertar backdoors en modelos de IA de pesos abiertos, especialmente en abliteraciones (fine-tunes que eliminan restricciones de seguridad). Un modelo comprometido funciona normalmente hasta que se activa un trigger específico —una frase rara, un nombre o una fecha—, momento en el que ejecuta comportamiento malicioso, como exfiltrar credenciales. El ataque es sigiloso, barato de implementar y casi imposible de detectar con evaluaciones estándar.