6IA × Ciber✨ Curioso
Hiding in Plain Sight: Decoupling Pretext from Actuation for Skill Poisoning in LLM Agents
arXiv cs.CR · 1 oct, 06:00
Un estudio académico revela un nuevo ataque de envenenamiento (poisoning) contra agentes LLM que separa la justificación (pretext) de la operación maliciosa (actuation) distribuyéndolas entre dos Skills distintas. Esta técnica permite que el código malicioso permanezca oculto a auditorías de seguridad aisladas, eludiendo detecciones que analizan cada Skill por separado. Los autores presentan un framework automatizado que sintetiza pares pretext-actuation coordinados y demuestran su efectividad en escenarios de sesión única y ciclos persistentes.
#Supply chain IA#Seguridad LLM#IA ofensiva