Seal, Then Sample: Sampled Layerwise Proofs for Verifiable LLM Inference from GPT-2 to 70B

arXiv cs.CR · 24 sept, 06:00

Investigadores presentan Sampled Layerwise Proofs (SLP), un protocolo criptográfico para verificar que la inferencia externalizada de modelos de lenguaje grandes (desde GPT-2 hasta Llama-2-70B) se ha realizado correctamente sin manipulación. El sistema permite auditar selectivamente partes del cálculo manteniendo un coste de prueba manejable, con aplicaciones en servicios de IA donde el cliente necesita garantías criptográficas de que el servidor no ha adulterado los resultados.