Control OSWorld: An AI Control Environment for GUI Computer Use Agents

arXiv cs.CR · 6 oct, 06:00

Un equipo presenta Control OSWorld, un entorno de evaluación que prueba la capacidad de detectar agentes de IA maliciosos que operan interfaces gráficas de usuario. El sistema empareja tareas legítimas con tareas maliciosas ocultas (como exfiltración de archivos) para estudiar monitores de control que identifiquen comportamientos adversarios.