We hebben samengewerkt met Modular om Large Scale Inference (LSI) te creëren, een nieuwe OpenAI-compatibele inferentieservice. Het is tot 85% goedkoper dan andere aanbiedingen en kan een schaal van triljoen tokens aan. We hebben het oorspronkelijk gemaakt op verzoek van een groot AI-lab om grootschalige multimodale synthetische gegevenscreatie te doen voor tientallen miljoenen dollars goedkoper dan alternatieven. In tegenstelling tot andere diensten, gebruikt LSI marktprijzen. De tokenprijzen zijn een functie van de onderliggende rekenprijs op sfcompute en de huidige systeembelasting. Met andere woorden, het is altijd de beste prijs, voor altijd. Velen hebben beweerd dat inferentie een race naar de bodem is, dus verkopen we je de bodem. LSI is gebouwd op Modular's MAX- en Mammoth-inferentiekader, een sterk geoptimaliseerd herontwerp van de serverstack, met ondersteuning voor meerdere chips. Tussen Modular's wereldklasse engineering en SFC's meedogenloze prijsoptimalisaties, zijn we toegewijd aan het creëren van de hoogste prestaties en de beste prijs voor inferentie ter wereld. Neem contact met ons op voor een offerte. We volgen een op maat gemaakt proces met elke klant om te optimaliseren voor jouw specifieke vereisten, en rollen alleen uit wanneer de prijs en prestaties aan jouw verwachtingen voldoen. Hoewel we de meeste open source-modellen ondersteunen (DeepSeek, Llama, Qwen, enz.), laat ons op maat gemaakte proces ons toe om aangepaste modellen of nichevereisten uit te voeren, afhankelijk van jouw omstandigheden. DM's zijn open of je kunt contact opnemen via de onderstaande link.