StableJudge: A Lightweight Adversarial Defense Framework for LLM-as-a-Judge

arXiv cs.CR · 14 oct, 06:00

Investigadores proponen StableJudge, un marco de defensa ligero contra inyección de prompts en sistemas de LLM-as-a-Judge que califican contenido automáticamente. El ataque de hijacking de puntuación corrompe las señales de evaluación en aplicaciones como revisión de papers y recomendaciones. StableJudge utiliza un modelo Sentry de 0,13B que localiza y sanitiza spans inyectados antes de la evaluación, entrenado contra ataques adversariales evolucionales.