Am încheiat un parteneriat cu Modular pentru a crea Large Scale Inference (LSI), un nou serviciu de inferență compatibil cu OpenAI. Este cu până la 85% mai ieftin decât alte oferte și poate gestiona o scară de trilioane de tokenuri. L-am creat inițial la cererea unui laborator important de inteligență artificială pentru a crea date sintetice multimodale la scară largă cu zeci de milioane de dolari mai ieftin decât alternativele. Spre deosebire de alte servicii, LSI folosește prețurile pieței. Prețurile token-urilor sunt o funcție a prețului de calcul de bază pe sfcompute și încărcarea curentă a sistemului. Cu alte cuvinte, este întotdeauna cel mai bun preț, pentru totdeauna. Mulți au susținut că deducția este o cursă spre jos, așa că vă vindem partea de jos. LSI este construit pe cadrul de inferență MAX și Mammoth al Modular, o reproiectare extrem de optimizată a stivei de servire, cu suport pentru mai multe cipuri. Între ingineria de clasă mondială a Modular și optimizările nemiloase ale prețurilor SFC, ne-am angajat să creăm cea mai înaltă performanță și cel mai bun preț din lume. Pentru a obține o ofertă, vă rugăm să ne contactați. Derulăm un proces personalizat cu fiecare client pentru a optimiza cerințele dumneavoastră specifice și lansăm numai atunci când prețul și performanța vă ating așteptările. Deși acceptăm majoritatea modelelor open source (DeepSeek, Llama, Qwen etc.), procesul nostru personalizat ne permite să rulăm modele personalizate sau cerințe de nișă, în funcție de circumstanțele dvs. DM-urile sunt deschise sau puteți contacta în linkul de mai jos.