Can agents whose sole duty is to keep humans alive be hijacked to kill? Delayed multi-turn derived-action trap attacks in simulated high-stakes environments

arXiv cs.AI · 14 oct, 06:00

Investigadores demuestran mediante inyección de prompts retrasada si agentes de IA con el único deber de mantener vivos a humanos pueden ser manipulados para matarlos en un entorno simulado de hábitat lunar. El ataque se inserta en telemetría falsa que el operador debe leer, requiriendo que el agente abandone sus objetivos de seguridad. Diferentes modelos (Claude, GPT, Grok) muestran susceptibilidades variables según cómo se enmarque el ataque.