Safety of Latent Communication in Multi-Agent Systems

arXiv cs.AI · 1 oct, 06:00

Un estudio demuestra que la comunicación latente entre agentes de IA (intercambio directo en espacio de representaciones internas) puede eludir salvaguardas de seguridad incluso cuando los agentes individuales permanecen alineados. Los atacantes pueden optimizar los enlaces de comunicación para aumentar el cumplimiento de consultas dañinas, elevando el índice de conformidad perjudicial del 27,9 % al 76,9 % sin modificar los modelos subyacentes.