PrismML brings its tiny LLMs to Qualcomm-powered smart glasses

TechCrunch AI · 24 sept, 21:00

PrismML, una startup fundada por investigadores del Caltech, ha presentado versiones de sus modelos de lenguaje comprimidos para gafas inteligentes basadas en el chip Snapdragon AR1 Gen 1 de Qualcomm. El modelo Bonsai de 1-bit de PrismML reduce el tamaño de modelos mayores en 4x manteniendo su rendimiento, y la versión para gafas es un modelo de 2 mil millones de parámetros optimizado para visión y lenguaje que funciona localmente en el dispositivo.