EmbeddingGemma 2: an open, lightweight multimodal embedding model
Google DeepMind · 6 oct, 21:57
Google DeepMind presenta EmbeddingGemma 2, un modelo multimodal ligero de 740 millones de parámetros que unifica texto, código, imágenes, vídeo y audio en un mismo espacio de incrustaciones. El modelo, construido sobre la arquitectura Gemma 4 y bajo licencia Apache 2.0, está optimizado para inferencia en dispositivos con recursos limitados, requiriendo tan solo 191 MB de RAM activa para procesamiento de texto y 567 MB para funcionalidad multimodal completa.
EmbeddingGemma 2 amplía el anterior modelo lanzado hace un año que ya había alcanzado más de 20 millones de descargas. La nueva versión mejora significativamente el rendimiento en código con un incremento de 9,92 puntos en el benchmark MTEB Code (de 68,76 a 78,68), lo que la hace adecuada para indexación de repositorios locales y búsqueda semántica de código. El modelo incluye una ventana de contexto de 8K tokens (cuatro veces mayor que la versión anterior) permitiendo procesar hasta 5,5 minutos de audio, 29 imágenes o 58 fotogramas de vídeo directamente en hardware local.
El modelo utiliza aprendizaje de representación Matryoshka (MRL) permitiendo comprimir vectores de salida de 768 dimensiones hasta 128, proporcionando reducciones de almacenamiento de hasta 6x en bases de datos vectoriales locales. EmbeddingGemma 2 es modular por diseño, requiriendo tan solo 270 millones de parámetros para tareas de solo texto, con codificadores opcionales de visión (170M) y audio (300M). Google proporciona acceso a los pesos del modelo en Hugging Face y Kaggle, con herramientas de despliegue para MediaPipe, LiteRT, transformers.js y múltiples frameworks populares.
Puntos clave
- Modelo multimodal de 740M parámetros optimizado para dispositivos con recursos limitados
- Mejora de 9,92 puntos en rendimiento de código respecto a la versión anterior
- Ventana de contexto de 8K tokens, procesando hasta 5,5 minutos de audio o 29 imágenes
- Compresión de vectores hasta 6x de reducción de almacenamiento con Matryoshka Representation Learning
- Disponible en Hugging Face, Kaggle bajo licencia Apache 2.0 permisiva
Figuras de la fuente
