Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations

arXiv cs.CR · 5 oct, 06:00

Investigación sobre la robustez de los grandes modelos de lenguaje frente a variaciones adversariales de entrada, incluyendo inyecciones de prompt, troyanos y manipulación de métricas. El trabajo propone métodos de evaluación y mejora de la defensa, con implementación en herramientas como JudgeGuard y TrojanArmor.