Zero Trust for AI Agents Starts With Fixing Zero Visibility
The Hacker News · 26 sept, 12:30
Las organizaciones despliegan agentes de IA sin visibilidad completa sobre sus capacidades y acceso a datos sensibles, lo que crea riesgos de seguridad significativos. Una investigación de Veeam muestra que el 70% de las organizaciones tiene flujos de IA en contacto con datos corporativos sensibles sin supervisión, y el 67% no puede rastrear completamente los agentes autónomos que crean los empleados. Aplicar principios de Zero Trust en agentes requiere establecer inventario y visibilidad antes de implementar controles de enforcement, pero muchas organizaciones saltan directamente a políticas sin conocer siquiera qué agentes tienen desplegados.
El artículo aborda tres desafíos clave de visibilidad en la seguridad de agentes de IA. Primero, los agentes de IA constituyen una nueva forma de Shadow IT: los empleados despliegan herramientas sin supervisión formal, como sucedió en METR donde un atacante explotó una instancia EC2 personal que ejecutaba un agente de IA, robó credenciales del proveedor de modelos y consumió $600,000 en tokens sin límite de gasto. Segundo, no existe un único punto de visibilidad: los agentes residen en red, endpoints, navegadores y aplicaciones SaaS alojadas externamente, mientras que el tráfico TLS cifrado hacia proveedores de IA oculta los detalles de solicitudes y herramientas utilizadas.
Como defensa (Act Blue), el artículo recomienda tratar el gasto en agentes e IA como señal de descubrimiento, monitorizar uso y spending de API keys como se hace con AWS/Azure, e involucrar equipos de finanzas y adquisiciones. La visibilidad requiere correlacionar múltiples fuentes: análisis de metadatos de red (DNS, SNI, JA4 fingerprints, logs de proxy de salida), telemetría de endpoints sobre procesos y variables de entorno con API keys, logs a nivel de navegador sobre extensiones y copilots, así como logs de identidad y OAuth grants en aplicaciones SaaS.
Puntos clave
- 70% de organizaciones tiene flujos de IA con datos sensibles sin visibilidad completa
- Shadow AI es un desafío fundamental: no se puede gobernar lo que no se ve
- El inventario debe preceder a cualquier control de enforcement o autorización
- Correlacionar múltiples fuentes de telemetría: red, endpoint, navegador y SaaS para visibilidad completa