CounterSteer: Suppressing Indirect Prompt Injection with Activation Steering

arXiv cs.CR · 30 sept, 06:00

CounterSteer es una defensa de tiempo de inferencia que mitiga los ataques de indirect prompt injection en agentes LLM mediante steering de activaciones. El método suprime comportamientos no deseados dentro del modelo sin requerir fine-tuning ni modelos auxiliares, demostrando reducciones significativas en tasas de éxito de ataques en múltiples modelos de código abierto.