5IA × Ciber
Compromise Is Not Consequence: Evaluating Task-Scoped Authorization in LLM Agents with Paired Replay
arXiv cs.CR · 6 oct, 06:00
Un artículo académico que estudia si la autorización delimitada por tarea contiene la ejecución maliciosa de herramientas en agentes LLM. Los autores prueban que condiciones de alcance (JWT scoped, sender-constrained y Open Policy Agent) evitan la ejecución dañina en un 100% de casos válidos atacados, mientras que las credenciales amplas permiten ejecución maliciosa del 8,9% al 37,8% según el modelo. El trabajo enfatiza que la política controla la ejecución, no la prevención de prompt injection.
#Seguridad LLM#IA defensiva