¡MLX-VLM v0.3.0 ya está aquí! Y trae muchas mejoras significativas 🔥📷 Novedades: - Cuantización de caché KV - Cuantización mixta (es decir, 4 bits + 6 bits) - Añadido soporte para modalidad de audio en el servidor - Gemma3n: Embeddings fijos, Visión, casting de píxeles, multi-tarea (audio + visión) y OCR - Corrección de la decodificación en chino - Refactorización del paquete de generación y conversión Muchas gracias y un saludo a los increíbles contribuyentes de mlx-vlm Neil de LMStudio, @pcuenq y Nicekate > pip install -U mlx-vlm Por favor, déjanos una estrella ⭐️
16,3K