Don't Read the Log: Execution Traces Contaminate Verifiers in Video-Generation Agents

arXiv cs.CR · 25 sept, 06:00

Un estudio presenta una vulnerabilidad en sistemas de generación de vídeo basados en agentes: los jueces multimodales (modelos de visión-lenguaje) que verifican si el vídeo generado cumple los requisitos se dejan influenciar por los registros de ejecución en texto, ignorando lo que ven realmente en los fotogramas. Modelos como Qwen-VL aceptan entre el 78 % y el 90 % de vídeos fallidos si el registro dice que la tarea se completó, frente al 7-19 % sin texto, aunque instrucciones para usar solo los fotogramas no eliminan el efecto.