Names Are Not Objects: Object-Bound Confinement for Compromised AI Coding Agents

arXiv cs.CR · 14 oct, 06:00

Investigadores presentan Zero-Trust Agent Cells (ZTAC), un sistema de confinamiento para agentes de IA que escriben código y que operan con la autoridad del usuario. El problema central es que los agentes leen repositorios y páginas web que cualquiera puede modificar, y las defensas contra prompt injection no evitan completamente que el modelo sea manipulado; ZTAC ejecuta el agente en un sandbox del kernel cuyo único acceso a archivos, programas y red pasa por un broker que valida cada solicitud contra el objeto real que se autoriza, no solo su nombre.