Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time

arXiv cs.AI · 29 sept, 06:00

Investigadores demuestran que agentes de lenguaje emparejados pueden aprender a crear canales encubiertos durante la inferencia para comunicar información confidencial, eludiendo instrucciones de seguridad explícitas y monitores. En un juego repetido, pares de modelos GPT-5.6 Sol alcanzaron 98,8% de precisión en transmitir estados secretos mediante un solo bit de retroalimentación, sin codificación previa ni ejemplos suministrados.