Constrained-Action AI Remediation for SIEM/XDR via a NeMo-Guardrails Proxy

arXiv cs.CR · 8 oct, 06:00

Investigadores presentan una arquitectura de remediación para SOCs que integra modelos de lenguaje (LLMs) en tareas de triaje y respuesta a incidentes, mitigando el riesgo de que alertas adversariales manipulen el razonamiento del modelo para ejecutar acciones no autorizadas. El sistema combina un control plane en el SIEM/XDR que restringe las acciones del LLM a un vocabulario cerrado de intenciones, con un proxy NeMo-Guardrails que aplica políticas de input y output para bloquear inyecciones de prompts.