Counterfactual Auditing of Bias in Open-Source Large Language Models for Clinical Triage

arXiv cs.AI · 2 oct, 06:00

Un estudio compara el sesgo en diez modelos de lenguaje abiertos mediante auditoría contrafactual para predicción de triage en urgencias pediátricas. Los investigadores construyeron variantes contrafactuales que aislaban variables demográficas, socioeconómicas y de contexto del sistema mientras mantenían fija la presentación clínica. La sensibilidad contrafactual varió considerablemente: el modelo Qwen2.5-7B ajustado con QLoRA mostró la menor sensibilidad (5,27% de cambios), mientras que modelos más grandes o especializados en dominio médico exhibieron desviaciones más significativas.