Contract monitoring: governing AI via separation of powers

arXiv cs.AI · 29 sept, 06:00

Un equipo de investigación propone un marco de seguridad para sistemas multiagente basado en contratos que especifican las acciones permitidas a agentes trabajadores. El enfoque asigna responsabilidades de monitorización a agentes supervisores e introduce asimetría en recursos computacionales para garantizar cumplimiento, con aplicaciones en seguridad de código y evasión de confinamiento.