Demostración de QVAC de Tether ejecutando inferencia local en un dispositivo móvil a una velocidad increíble, a través de llama.cpp + LLAMA 3.2 1B parámetros. QVAC es un runtime de inferencia y ajuste fino generalizado capaz de adaptarse a cualquier dispositivo, desde smartphones hasta laptops y servidores. Muchos modelos ya están siendo soportados. Más por venir. Sin límites. Inteligencia infinita. Próximamente.
38,18K