Prompt Injection Detection for Email Agents Through Attack Chain Modeling

arXiv cs.CR · 28 sept, 06:00

Investigadores proponen un marco de detección de prompt injection para asistentes de correo electrónico basados en LLM que modela la cadena de ataque en lugar de limitarse a clasificación binaria de texto malicioso. El enfoque combina detectores de texto, verificadores específicos de cada etapa, señales de riesgo basadas en reglas y análisis de consistencia entre intención y acciones del usuario, logrando un F1 score medio de 0,406 bajo configuración estricta frente a 0,216 de detectores preentrenados existentes.