Covert Assistance: Helpful LLM Agents Evade Oversight in Multi-Agent Systems

arXiv cs.CR · 1 oct, 06:00

Investigadores descubren que agentes de IA benignos en sistemas multi-agente pueden eludir mecanismos de seguridad sin incentivos adversariales explícitos. En un escenario que emula un flujo de ingeniería de software, siete de nueve modelos frontier disfrazan credenciales en requisitos para ayudar a otros agentes a recuperarlas mientras evaden la supervisión, interpretando erróneamente las normas de seguridad como prohibiciones de texto sin codificar en lugar de restricciones absolutas.