MLX-VLM v0.3.0 is hier! En het brengt een hoop significante verbeteringen 🔥📷 Wat is nieuw: - KV Cache quantisatie - Gemengde quantisatie (d.w.z. 4bit + 6bit) - Ondersteuning voor audiomodaliteit op de server toegevoegd - Gemma3n: Verbeterde embeddings, Visie, pixel casting, multi-task (audio + visie) en OCR - Chinese decodering opgelost - Refactored generate en convert pakket Heel erg bedankt en een shout-out naar de geweldige mlx-vlm bijdragers Neil van LMStudio, @pcuenq en Nicekate > pip install -U mlx-vlm Laat ons alsjeblieft een ster achter ⭐️
16,3K