TRAP: Tree-Guided Reinforcement-Augmented Probing for Automated LLM Jailbreaking

arXiv cs.CR · 14 oct, 06:00

Investigadores presentan TRAP, un marco de aprendizaje automático que descubre sistemáticamente vulnerabilidades de jailbreak en modelos de lenguaje alineados mediante acceso de caja negra. El método organiza estrategias de ataque (role-play, encoding, ofuscación) en un árbol jerárquico y usa aprendizaje por refuerzo para seleccionar y refinar ataques, logrando tasas de éxito del 45,6% al 97,9% en siete LLMs diferentes.