COPEX: Benchmarking LLM Robustness to Adversarial Context Across Model Context Protocol Layers

arXiv cs.CR · 6 oct, 06:00

Investigadores presentan COPEX, un benchmark para evaluar la robustez de LLMs frente a ataques adversariales en sistemas con Model Context Protocol (MCP). El estudio prueba cómo modelos lenguaje pueden ser explotados a través de instrucciones del usuario, esquemas de herramientas, salidas de herramientas o mensajes de protocolo, encontrando una tasa media de éxito de ataque del 64,4% en nueve modelos.