pikit: A Composable Toolkit for Indirect Prompt Injection Research and Evaluation

arXiv cs.CR · 30 sept, 06:00

Investigadores presentan pikit, un toolkit de código abierto para evaluar ataques de indirect prompt injection contra agentes basados en LLM. El toolkit incluye 13 métodos de ataque, 16 canales de distribución y 9 estrategias de defensa, y fue evaluado en un agente de codificación en entorno de producción, logrando reducir la tasa de éxito de ataques en un 71,8 % con las defensas más efectivas.