Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models

arXiv cs.AI · 16 oct, 06:00

Un equipo presenta CNRF, un método defensivo basado en representaciones para mejorar la seguridad de modelos visión-lenguaje (VLMs) frente a jailbreaks multimodales. En lugar de rechazar todas las consultas sospechosas, el sistema diferencia entre consultas desconocidas y genuinamente peligrosas, permitiendo intervenciones selectivas y manteniendo la utilidad en tareas benignas.