MLX-VLM v0.3.0 chegou! E traz muitas melhorias significativas 🔥📷 O que há de novo: - Quantização de cache KV - Quantização mista (ou seja, 4bit + 6bit) - Adicionada suporte para modalidade de áudio no servidor - Gemma3n: Embeddings corrigidos, Visão, casting de pixel, multi-tarefa (áudio + visão) e OCR - Correção da decodificação em chinês - Refatorado o pacote de geração e conversão Muito obrigado e um agradecimento aos incríveis colaboradores do mlx-vlm Neil do LMStudio, @pcuenq e Nicekate > pip install -U mlx-vlm Por favor, deixe-nos uma estrela ⭐️
16,3K