Safety in Self-Evolving Agents: A Survey

arXiv cs.CR · 2 oct, 06:00

Un artículo académico sobre seguridad en agentes que evolucionan automáticamente y actualizan sus parámetros durante su funcionamiento. Los autores argumentan que cuando los LLM aprenden de nuevas experiencias, información inofensiva en un contexto puede volverse peligrosa si se generaliza o reutiliza en otros escenarios, y proponen el marco SAVER para analizar cómo fallos de seguridad emergen en estas actualizaciones continuas.