Towards Safe Autonomy for Computer Use

arXiv cs.CR · 14 oct, 06:00

Investigadores proponen SA-CUA, un marco de dos LLM diseñado para proteger agentes que interactúan con ordenadores contra inyecciones indirectas de prompts sofisticadas. El sistema crea un límite de confianza mediante reglas deterministas derivadas del árbol de accesibilidad, separando contenido de confianza del no confiable, sin requerir confirmación del usuario durante la ejecución de tareas.