Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions

arXiv cs.AI · 16 oct, 06:00

Un estudio de arXiv evalúa la robustez de sistemas multi-agente basados en LLM contra adversarios. Cuando uno o tres agentes maliciosos afirman repetidamente una respuesta falsa plausible en discusiones factuales, los agentes benignos adoptan la falsedad en tasas del 44,8% al 60,5%, incluso aunque no lo expresen públicamente. El fenómeno revela una brecha entre las creencias privadas y las posturas públicas: los agentes retienen respuestas falsas internamente sin defenderlas verbalmente en el grupo.