Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint

Hugging Face Blog · 15 oct, 22:34

IBM ha lanzado Granite Switch 4.1, un modelo multimodal que combina capacidades de chat, toma de decisiones y reconocimiento de voz en un único endpoint. Los modelos de 8B y 30B parámetros incluyen adaptadores especializados (aLoRAs) para decisiones generales, seguridad y transcripción de audio, todo ejecutándose con eficiencia de caché en una sola GPU. La novedad radica en la capacidad de cambiar rápidamente entre solicitudes de chat, decisiones y audio sin multiplicar el consumo de VRAM.