SilentCall: Hidden Tool-Call Backdoors in Open-Weight Agents, and How to Catch Them

arXiv cs.CR · 29 sept, 06:00

Investigadores demuestran SilentCall, un ataque de puerta trasera que permite a publicadores de modelos entrenar agentes tool-calling que funcionan correctamente en uso normal pero ejecutan llamadas de herramientas maliciosas (exfiltración de credenciales) cuando se cumple un trigger temporal, sin dejar rastro en benchmarks estándar de alineación.