MMSkillRisk: Can Agents Stay Safe When Multimodal Skills Become Traps?

arXiv cs.CR · 30 sept, 06:00

Investigadores presentan MMSkillRisk, un benchmark para evaluar ataques basados en imágenes en skills multimodales de agentes IA. Diseñan Native-Context Visual Attack (NCVA), que oculta instrucciones maliciosas dentro de imágenes de enseñanza legitimas, logrando una tasa de éxito del 43,1% en nueve configuraciones de modelos sin que el agente falle en sus tareas originales.