MOMAT: Mixture of Multiple Atlases for Low-Power Jailbreak Defense of Quantized LLMs

arXiv cs.CR · 2 oct, 06:00

MOMAT es un marco de defensa contra jailbreaks para modelos de lenguaje cuantificados desplegados en dispositivos edge, que combina recuperación de conocimiento estructurado con aceleración por hardware. El método utiliza múltiples atlas (clusters semánticos) evaluados por un detector Mixture of Experts ligero, logrando mejoras drásticas en rendimiento y consumo energético sin sacrificar la efectividad de defensa.