Can AI Oversight Be Zero Knowledge?

arXiv cs.AI · 2 oct, 06:00

Investigadores estudian si es posible verificar la corrección de sistemas de IA que procesan datos confidenciales sin revelar esos datos, mediante argumentos interactivos y pruebas de conocimiento cero. Demuestran que, en general, no es posible crear pruebas de conocimiento cero para computaciones auxiliadas por oráculos en el modelo de oráculo aleatorio, pero proponen una solución alternativa usando firmas criptográficas.