Understanding and Exploiting Initialization Anchoring Weakness in Feedback-Based Agent Planning

arXiv cs.CR · 25 sept, 06:00

Investigadores descubren una debilidad en los sistemas de planificación con retroalimentación para agentes de IA: la primera ronda de corrección detecta solo el 46% de las direcciones adversariales, mientras que en las siguientes rondas cae al 13% y 7%. El framework InitAnchor explota esta vulnerabilidad mediante materiales externos controlados por el atacante, logrando tasas de éxito de ataque del 76% en pruebas con múltiples dominios y modelos de lenguaje.