Ми співпрацюємо з Modular для створення Large Scale Inference (LSI), нового сервісу логічного висновку, сумісного з OpenAI. Це на 85% дешевше, ніж інші пропозиції, і може обробляти масштаб трильйонів токенів. Спочатку ми створили його на прохання великої лабораторії штучного інтелекту, щоб виконувати великомасштабне мультимодальне створення синтетичних даних за десятки мільйонів доларів дешевше, ніж альтернативи. На відміну від інших сервісів, LSI використовує ринкове ціноутворення. Ціни на токени є функцією базової обчислювальної ціни на sfcompute та поточного навантаження системи. Іншими словами, це завжди найкраща ціна, назавжди. Багато хто стверджує, що висновок – це гонка до дна, тому ми продаємо вам дно. LSI побудований на фреймворку логічного висновку MAX & Mammoth від Modular, високооптимізованому редизайні стека обслуговування, з підтримкою кількох чіпів. Між розробкою світового класу Modular і безжальною оптимізацією цін SFC, ми прагнемо створювати висновки з найвищою продуктивністю та найкращою ціною у світі. Щоб отримати пропозицію, будь ласка, зв'яжіться з нами. Ми проводимо індивідуальний процес з кожним клієнтом, щоб оптимізувати його відповідно до ваших конкретних вимог, і впроваджуємо його лише тоді, коли ціна та ефективність відповідають вашим очікуванням. Хоча ми підтримуємо більшість моделей з відкритим вихідним кодом (DeepSeek, Llama, Qwen тощо), наш індивідуальний процес дозволяє нам запускати власні моделі або вимоги до ніші залежно від ваших обставин. DM відкриті або ви можете зв'язатися з ними за посиланням нижче.