Static Bootstrap Placement for Encrypted Language Model Decoding

arXiv cs.CR · 6 oct, 06:00

Un nuevo sistema llamado AR-HE permite ejecutar la decodificación completa de modelos de lenguaje bajo encriptación homomórfica, manteniendo todo el procesamiento en el servidor sin requerir viajes de ida y vuelta del cliente. El trabajo introduce una estrategia automática para colocar bootstraps criptográficos que reduce el coste computacional de generar tokens encriptados, demostrando mejoras significativas en modelos como GPT-2.