Learning When to Trust Medical Knowledge: Regression-Safe Routing for Clinical Reasoning

arXiv cs.AI · 15 oct, 06:00

Investigadores presentan Med-TrustRouter, un controlador ligero que ayuda a sistemas LLM clínicos a decidir cuándo confiar en conocimiento externo. El trabajo propone un benchmark de contaminación de conocimiento médico con siete familias de ataques que buscan provocar regresiones (cambiar respuestas correctas en incorrectas) mediante evidencia envenenada o cadenas de razonamiento alucinadas.