Controlled Decoding Attacks on Black-Box LLMs

arXiv cs.CR · 30 sept, 06:00

Investigadores presentan un método para eludir mecanismos de seguridad en modelos de lenguaje a través de interfaces de solo texto, reconstruyendo distribuciones de probabilidad a partir de múltiples muestreos. El enfoque permite ataques de jailbreak sin acceso a pesos del modelo, utilizando técnicas selectivas para minimizar costes computacionales.