Hidden in Plain Sight: Advancing Harmful Content Understanding via Perception-Aware Adversarial Self-Play

arXiv cs.AI · 14 oct, 06:00

Investigadores proponen PASP, un método que combina vistas multi-perceptuales (textual, fonética y visual) con adversarial self-play para mejorar la capacidad de los LLM de detectar contenido dañino disfrazado mediante evasiones textuales. El trabajo aborda una vulnerabilidad fundamental: los modelos de lenguaje no identifican intenciones maliciosas que los humanos comprenden fácilmente, lo que explota por usuarios maliciosos mediante ofuscación estratégica. En experimentos, PASP reduce la tasa de éxito de ataques adaptativos hasta un 73,71% en ChineseHarm-Bench y 74,49% en EvoHarmBench.