Speculative Safety Honeypot: Toward Proactive Defense Against Multi-turn Agent Attacks

arXiv cs.CR · 1 oct, 06:00

Se propone Speculative Safety Honeypot (SSH), un marco defensivo para detectar ataques multi-turno contra agentes basados en LLM que dividen intenciones maliciosas a lo largo de múltiples interacciones. SSH utiliza simulación con LLMs pequeños para predecir comportamientos futuros y construir un árbol de trayectorias que exponga riesgos antes de que se materialicen.