Securing Computer-Use Agents Against Branch Steering Attacks

arXiv cs.CR · 5 oct, 06:00

Investigadores identifican ataques de "branch steering" contra agentes que interactúan con interfaces gráficas, donde datos no confiables obligan al agente a seguir rutas peligrosas preautorizadas sin inyección explícita de prompts. El patrón Dual-LLM, arquitectura estándar para garantías de seguridad, resulta vulnerable en entornos gráficos dinámicos. Los autores proponen COBRA, que acopla planes de ramificación confiables con restricciones de capacidad, logrando reducir el éxito de ataques del 94,4% a 0% sin perder utilidad benigna.