Shared and structured inputs undermine collective random choice by reasoning AI agents

arXiv cs.AI · 8 oct, 06:00

Un estudio en arXiv analiza cómo seis modelos de razonamiento de IA fallan en implementar selección aleatoria fiable cuando procesan entradas compartidas o estructuradas. Los investigadores descubrieron patrones predecibles basados en identificadores y timestamps, lo que socava aplicaciones críticas como auditoría y asignación de recursos. Incluso con instrucciones explícitas, los modelos mantienen correlaciones que podrían comprometer sistemas de supervisión.