HASTE: Evolving Agent Harnesses Against Emerging Attacks Using Sparse Evidence

arXiv cs.AI · 5 oct, 06:00

HASTE es un marco multi-agente que evoluciona automáticamente los mecanismos de defensa (harnesses) de sistemas de IA contra ataques emergentes, utilizando como entrada evidencia escasa como descripciones breves o ejemplos de amenazas. El sistema genera iterativamente especificaciones de seguridad y casos de ataque adversariales para reducir las tasas de éxito de ataques mientras mantiene la utilidad en tareas benignas.