Correct Answers, Unsupported Findings: Evidence Binding in Forensic Reconstruction of LLM Agent Logs

arXiv cs.CR · 8 oct, 06:00

Investigadores auditan la capacidad de modelos LLM para reconstruir relaciones de evidencia en logs de agentes IA, usando casos de ejecución de AgentDojo Banking. El estudio muestra que aunque los modelos recuperan valores correctos, frecuentemente hacen afirmaciones sin apoyo en la evidencia disponible, confundiendo correlación con causalidad en la cadena de pruebas forenses.