4IA
Transformers now runs llama.cpp quants
Hugging Face Blog · 22 sept, 02:00
La librería Transformers de Hugging Face ahora soporta cuantizaciones de llama.cpp, permitiendo ejecutar modelos comprimidos de forma más eficiente. Esta integración facilita el uso de LLMs en hardware limitado y mejora la accesibilidad de modelos locales.
#Producto de IA