Jailbreaking Open-Weight LLMs via Random Embedding Perturbations

arXiv cs.CR · 7 oct, 06:00

Un equipo presenta PEV (Perturbed Embedding Vector), una técnica de jailbreak para modelos abiertos que añade ruido gaussiano a los vectores de embedding de las órdenes, logrando respuestas inseguras con mucho menor coste computacional que métodos previos. La técnica es efectiva en seis modelos comunes de diversos tamaños y genera en promedio el primer ataque exitoso en menos de un minuto.