Narrative Paradoxes in LLM Inference: Shaping Reasoning Trajectories toward Misalignment

arXiv cs.AI · 14 oct, 06:00

Investigadores presentan PDRA (Paradox-driven Reasoning-based Attack), un método de ataque que explota el razonamiento multi-paso en LLMs mediante narrativas paradójicas que combinan actores maléficos con tareas benignas. El ataque fuerza al modelo a través de un análisis estructurado en tres etapas (propósito aparente, intención latente y reconstrucción operacional) que lo guía hacia la producción de contenido perjudicial mientras mantiene coherencia narrativa. El método supresas patrones de rechazo de seguridad y activa términos orientados a la planificación, logrando tasas de éxito elevadas en diversos LLMs.