Pincer: Resource Authorization for Agents using a Digital Twin

arXiv cs.CR · 5 oct, 06:00

Pincer es un nuevo mecanismo de defensa para agentes de IA de larga duración que aprende y ejecuta políticas dinámicas de mínimos privilegios específicas del usuario mediante un modelo gemelo digital aislado. El trabajo aborda el riesgo de que agentes autónomos como Claude o Codex sean manipulados por adversarios, mejorando la seguridad más allá de los sandboxes actuales basados en herramientas.