LTBD: Learnable Trust-Boundary Delimiters for Prompt Injection Defense

arXiv cs.CR · 9 oct, 06:00

Se propone LTBD (Learnable Trust-Boundary Delimiters), una defensa contra ataques de prompt injection en modelos de lenguaje grande mediante delimitadores aprendibles que codifican explícitamente los límites de confianza entre instrucciones de usuario legítimas y datos externos no confiables. El método no requiere reentrenamiento del modelo y muestra resultados competitivos frente a ataques adaptados, logrando tasas de éxito muy bajas en los conjuntos de prueba evaluados.