6IA × Ciber✨ Curioso
NOMOS: Compiling Written Policies into Statically Verified Tool-Call Gates for LLM Agents
arXiv cs.CR · 9 oct, 06:00
NOMOS es un compilador que transforma políticas escritas en lenguaje natural en compuertas de control deterministas para agentes LLM, verificando estáticamente que las llamadas a herramientas respeten restricciones sin necesidad de verificadores LLM o resolvedores. El sistema corrige o rechaza el 37% de candidatos en el caso aéreo y el 13% en retail, reduciendo violaciones de políticas del 66,3% al 2,6% en cambios de estado sin sacrificar significativamente la utilidad.
#Seguridad LLM#IA defensiva