MLX-VLM v0.3.0 är här! Och det ger många betydande förbättringar 🔥📷 Vad är det senaste: - Kvantisering av KV-cache - Blandad kvantisering (d.v.s. 4 bitar + 6 bitar) - Lägg till stöd för ljudmodalitet i servern - Gemma3n: Fasta inbäddningar, Vision, pixel casting, multi-task (audio + vision) och OCR - Fixade kinesisk avkodning - Omstrukturerat paket för att generera och konvertera Tack så mycket och shout out till de fantastiska mlx-vlm bidragsgivarna Neil från LMStudio, @pcuenq och Nicekate > pip install -U mlx-vlm Lämna oss en början ⭐️
16,3K