● NeuroSec Radar
Entrar
← Volver
6IA × Ciber✨ Curioso

NOMOS: Compiling Written Policies into Statically Verified Tool-Call Gates for LLM Agents

arXiv cs.CR · 9 oct, 06:00

NOMOS es un compilador que transforma políticas escritas en lenguaje natural en compuertas de control deterministas para agentes LLM, verificando estáticamente que las llamadas a herramientas respeten restricciones sin necesidad de verificadores LLM o resolvedores. El sistema corrige o rechaza el 37% de candidatos en el caso aéreo y el 13% en retail, reduciendo violaciones de políticas del 66,3% al 2,6% en cambios de estado sin sacrificar significativamente la utilidad.

#Seguridad LLM#IA defensiva

Pregunta a la IA

Para preguntar a Claude sobre esta noticia, usa tu propia API key de Anthropic. Tu navegador la envía directamente a Anthropic: nunca pasa por el servidor de esta web ni se guarda en su base de datos. Anthropic te cobra el uso (Claude Haiku 4.5, en torno a 0,003 $ por pregunta).

Consíguela en console.anthropic.com. Recomendado: una key solo para esto, con límite de gasto.