Hearsay: Can an Auditor Trust the Record a Deployed Agent Harness Writes?

arXiv cs.CR · 29 sept, 06:00

Un estudio examina si los registros que escriben los frameworks de agentes de IA pueden ser auditados de forma confiable. Tras analizar dieciséis harnesses desplegados, descubre que ninguno genera registros completamente verificables: los auditores identifican correctamente el fallo en el 74–91% de los casos, pero no pueden probar cómo transcurrió la ejecución. La solución propuesta es mantener un registro independiente fuera del harness, firmado criptográficamente, que capture toda la comunicación entre modelo y agente.