Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming

arXiv cs.CR · 16 oct, 06:00

Screwtape es un sistema que edita transcripciones reales de agentes de IA para generar ataques que eluden monitores de seguridad diseñados para detectar comportamientos dañinos. El equipo demostró que puede crear ediciones falsas de acciones (como fuga de claves API) que pasan verificadores y esquivan los monitores, incluyendo algunos de proveedores frontier sin acceso a su infraestructura.