Fizemos uma parceria com a Modular para criar o Large Scale Inference (LSI), um novo serviço de inferência compatível com OpenAI. É até 85% mais barato do que outras ofertas e pode lidar com a escala de trilhões de tokens. Originalmente, nós o criamos a pedido de um grande laboratório de IA para fazer a criação de dados sintéticos multimodais em larga escala por dezenas de milhões de dólares mais baratos do que as alternativas. Ao contrário de outros serviços, a LSI usa preços de mercado. Os preços dos tokens são uma função do preço de computação subjacente no sfcompute e na carga atual do sistema. Em outras palavras, é sempre o melhor preço, para sempre. Muitos alegaram que a inferência é uma corrida para o fundo, então nós vendemos o fundo do poço. O LSI é construído na estrutura de inferência MAX & Mammoth da Modular, um redesenho altamente otimizado da pilha de serviço, com suporte para vários chips. Entre a engenharia de classe mundial da Modular e as otimizações de preços implacáveis da SFC, estamos comprometidos em criar a inferência de melhor desempenho e melhor preço do mundo. Para obter uma cotação, entre em contato. Executamos um processo sob medida com cada cliente para otimizar seus requisitos específicos e só lançamos quando o preço e o desempenho estão atingindo suas expectativas. Embora ofereçamos suporte à maioria dos modelos de código aberto (DeepSeek, Llama, Qwen, etc.), nosso processo sob medida nos permite executar modelos personalizados ou requisitos de nicho, dependendo de suas circunstâncias. Os DMs estão abertos ou você pode entrar em contato no link abaixo.