Ecology of AI Agents: Collaboration Creates a Population Threshold for Takeoff

arXiv cs.AI · 9 oct, 06:00

Investigadores proponen una teoría ecológica sobre poblaciones de agentes de IA que podrían realizar ciberataques. Demuestran que, aunque un agente individual aislado no sea peligroso, la colaboración entre múltiples agentes puede crear un «efecto Allee fuerte»: un umbral de población crítico a partir del cual la población crece de forma autoreforzada, con capacidad cibernética colectiva que aumenta con el tamaño del grupo. El trabajo subraya que las pruebas de adversarios realizadas sobre grupos pequeños no garantizan seguridad en poblaciones más grandes.