AI's Third Wave: Coworkers Break the Security Model That Worked for Agents
BleepingComputer · 30 sept, 16:01
A medida que los sistemas de IA evolucionan hacia agentes persistentes que funcionan como colegas digitales en las organizaciones, los modelos de seguridad actuales basados en credenciales de corta duración se vuelven inefectivos. El problema fundamental es que estos agentes acumulan permisos de acceso de humanos sin mecanismos de revocación claros, creando riesgos de escalada de privilegios y pérdida de auditoría que las plataformas actuales (OpenAI, Anthropic) aún no abordan adecuadamente.
Los agentes de IA persistentes, a diferencia de los chatbots de sesión o agentes de tarea acotada, requieren acceso permanente a sistemas corporativos como Google Workspace, Slack y bases de datos. Las plataformas actuales no emiten credenciales propias a los agentes, sino que utilizan tokens estáticos de portador o conceden acceso bajo las credenciales del usuario humano que inicia la interacción. Esto genera dos problemas críticos: primero, los registros de auditoría atribuyen acciones del agente al usuario humano, ocultando quién ejecutó realmente cada acción; segundo, los agentes tienden a acumular acceso de múltiples proyectos sin un proceso de desprovisionamiento, similar al drift de acceso en gestión de identidades pero a velocidad de máquina.
Google intentó resolver esto en 2024 con Chip, un agente de Workspace con cuenta propia, rol designado y permisos configurados, pero nunca lo lanzó al producto. Seshan (OpenAI) reconoce que los agentes útiles necesitan acceso real a infraestructura en la nube y datos corporativos, no aislamiento. La arquitectura requerida no existe: cuando un agente de una persona entrega trabajo a un agente de otro, la credencial ejecutante sigue siendo la del usuario humano original, sin trazabilidad ni límites de privilegio entre agentes colaboradores.
Puntos clave
- Agentes persistentes acumulan permisos sin revocación clara, creando drift de acceso a escala de máquina
- Registros de auditoría atribuyen acciones del agente al usuario humano original, ocultando la verdadera trazabilidad
- Plataformas (OpenAI, Anthropic) usan tokens estáticos o credenciales de usuario, no identidades propias para agentes
- Google Workspace demostró modelo correcto (Chip con cuenta propia y permisos designados) en mayo 2024 pero no lo lanzó
- Agentes colaborativos (sub-agentes, trabajo compartido) asumen modelo de identidad que actualmente no existe