What the Model Cannot See: Covert and Provable Text Invisibility in LLMs

arXiv cs.CR · 14 oct, 06:00

Investigadores demuestran que es posible hacer que el contenido de texto marcado sea «invisible» para modelos de lenguaje: omitido de resúmenes, ignorado en respuestas a preguntas y no detectado por filtros de seguridad. El ataque funciona como una puerta trasera en la cadena de suministro de IA y plantea desafíos para la auditoría y detección de estos modelos, incluso en análisis de caja blanca.