Safe Skill Retirement for Physical Agents

arXiv cs.AI · 25 sept, 06:00

Un equipo de investigación propone un método para eliminar de forma segura instrucciones redundantes en agentes de IA que controlan sistemas físicos. Los experimentos revelan que aunque las pruebas autorizadas demuestren que ciertas instrucciones son innecesarias, su eliminación puede crear brechas de seguridad al dejar sin probar condiciones de seguridad dormidas. El trabajo introduce certificados de jubilación que validan que la eliminación preserva la funcionalidad autorizada sin permitir efectos protegidos no autorizados.