6IA × Ciber✨ Curioso
AgentKernel: The Trust-Native Agentic Operating System
arXiv cs.CR · 25 sept, 06:00
AgentKernel es un sistema operativo diseñado específicamente para agentes de IA que atraviesan límites de confianza, enfrentándose a riesgos como inyección de prompts, envenenamiento de memoria y abuso de herramientas privilegiadas. El trabajo propone una capa de seguridad obligatoria a nivel de sistema operativo que implementa identidad, mediación de entrada, gobernanza de memoria y control de ejecución, aplicando principios clásicos de seguridad del SO a fallos semánticos. Los autores argumentan que los actuales stacks de gobernanza a nivel de aplicación son insuficientes porque comparten límite de confianza con los agentes que vigilan.
#Seguridad LLM#IA ofensiva#IA defensiva