Invisible Ink, Visible Lies: How Production Watermarking Causes LLMs to Hallucinate

arXiv cs.CR · 6 oct, 06:00

Un estudio de arXiv analiza cómo las técnicas de watermarking de modelos LLM, diseñadas para identificar contenido generado por IA, pueden inducir o amplificar alucinaciones e imprecisiones factuales incluso cuando el modelo sin watermark responde correctamente. Los investigadores examinan seis métodos populares y proponen intervenciones para mejorar la precisión factual sin sacrificar la eficiencia.