Security of Agent-Integrated Software: When Human Operations and Agent Actions Coexist

arXiv cs.CR · 22 sept, 06:00

Un artículo académico propone un marco conceptual para analizar la seguridad de sistemas de software que integran agentes inteligentes junto con operaciones humanas convencionales. Identifica cuatro categorías de problemas de seguridad que surgen cuando ambos caminos afectan el mismo estado del sistema: context misuse, authorization violation, execution control y effect integrity. El trabajo argumenta que proteger el agente y el core de software por separado no garantiza seguridad conjunta, y presenta oportunidades de investigación en provenance, enforcement de políticas y gestión de efectos persistentes.