DP-MIND: Differentially private memory-guided Long context Inference

arXiv cs.AI · 12 oct, 06:00

Investigadores proponen DP-MIND, un marco que aplica privacidad diferencial a la inferencia en LLMs con contextos de millones de tokens, abordando el problema de degradación de utilidad cuando se protegen consultas sensibles en sistemas LLM-as-a-Service. El método perturba localmente la entrada y procesa fragmentos con una memoria compacta guiada por aprendizaje reforzado.