Are You Reading the Right Thing? Rethinking Internal Signals for Prompt-Injection Detection

arXiv cs.AI · 15 oct, 06:00

Un estudio en arXiv analiza métodos para detectar inyecciones de prompt (prompt injection) mediante señales internas de modelos de lenguaje grandes. Los investigadores evaluaron cinco técnicas distintas en Qwen3.6-35B y Gemma-4-26B, descubriendo que los métodos basados en atención y señales cercanas a la formación de respuesta detectan mejor los ataques exitosos, mientras que otros detectan mejor los fallidos.