Nous avons établi un partenariat avec Modular pour créer Large Scale Inference (LSI), un nouveau service d'inférence compatible avec OpenAI. Il est jusqu'à 85 % moins cher que d'autres offres et peut gérer des échelles de trillions de tokens. Nous l'avons initialement créé à la demande d'un grand laboratoire d'IA pour réaliser la création de données synthétiques multimodales à grande échelle, à des dizaines de millions de dollars moins cher que les alternatives. Contrairement à d'autres services, LSI utilise une tarification de marché. Les prix des tokens sont fonction du prix de calcul sous-jacent sur sfcompute et de la charge actuelle du système. En d'autres termes, c'est toujours le meilleur prix, pour toujours. Beaucoup ont affirmé que l'inférence est une course vers le bas, donc nous vous vendons le bas. LSI est construit sur le cadre d'inférence MAX et Mammoth de Modular, une refonte hautement optimisée de la pile de service, avec support pour plusieurs puces. Entre l'ingénierie de classe mondiale de Modular et les optimisations de prix impitoyables de SFC, nous nous engageons à créer l'inférence la plus performante et la mieux tarifée au monde. Pour obtenir un devis, veuillez nous contacter. Nous suivons un processus sur mesure avec chaque client pour optimiser vos exigences spécifiques, et nous ne déployons que lorsque le prix et la performance répondent à vos attentes. Bien que nous supportions la plupart des modèles open source (DeepSeek, Llama, Qwen, etc.), notre processus sur mesure nous permet d'exécuter des modèles personnalisés ou des exigences de niche en fonction de vos circonstances. Les DMs sont ouverts ou vous pouvez nous contacter via le lien ci-dessous.