AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations

arXiv cs.AI · 16 oct, 06:00

Investigadores presentan AgentPerturb, un marco sistemático para evaluar la robustez de agentes LLM frente a perturbaciones controladas en interacciones. El estudio, realizado sobre modelos fronterizos actuales, revela que las perturbaciones degradan consistentemente el rendimiento y que los agentes raramente verifican información corrupta, lo que tiene implicaciones para entrenamientos orientados a la robustez.