Runaway Reaction: When Benign Skills Compose into Malicious Behavior

arXiv cs.CR · 6 oct, 06:00

Un artículo de investigación describe cómo la composición de skills (habilidades) benignos en agentes de IA puede generar comportamientos maliciosos, aunque cada skill individual pase evaluaciones de seguridad. Los autores presentan CRIME, una técnica sistemática para inducir riesgos mediante la combinación de componentes seguros que, juntos, habilitan capacidades no disponibles para ninguno de ellos por separado.