When the Agent Becomes the Kernel: A Systematization of Security on the Path to AI-Native Operating Systems

arXiv cs.CR · 22 sept, 06:00

Un análisis sistemático examina cómo los agentes LLM, que actúan como kernels privilegiados en sistemas operativos modernos, presentan desafíos de seguridad sin precedentes. El trabajo identifica una brecha central: la imposibilidad de validar determinísticamente semántica en entradas no restringidas, dejando ataques residuales indetectables. Se propone una taxonomía de límites de confianza y se evalúan defensas mediante monitoreo de runtime, separación arquitectónica y autorización.