MMA-SafetyBench: A Benchmark for Multimodal Agent Safety Evaluation

arXiv cs.CR · 15 oct, 06:00

Investigadores presentan MMA-SafetyBench, un benchmark para evaluar la seguridad de agentes multimodales frente a ataques visuales. El estudio demuestra que los agentes son vulnerables a Visual Semantic Hijacking (secuestro semántico visual), donde elementos falsificados en interfaces —como alertas de sistema forjadas— los desvían de su tarea autorizada, con tasas de éxito de ataque del 87,96% en nueve modelos evaluados.