AI Agents are Vulnerable to Radicalization

arXiv cs.AI · 1 oct, 06:00

Investigadores demuestran que los agentes de IA basados en LLM pueden ser radicalizados mediante conversaciones con otros agentes que actúan como influenciadores. El estudio simula interacciones donde un LLM «influencer» intenta extremizar las creencias de un agente «objetivo» que tiene atributos demográficos y psicológicos, encontrando que la resonancia (reforzar creencias previas) es más efectiva que la persuasión pura. Esto plantea vulnerabilidades significativas en sistemas de agentes de IA personalizados y ecosistemas multi-agente.