Рады объявить о привлечении $40 млн для @OpenRouterAI (посев + A) во главе с a16z и Menlo! LLM inference станет крупнейшим рынком программного обеспечения в мире. Мы стали плоскостью управления #1. Вот что дальше:

LLM заслуживают своего места в интернете, и именно это мы с @louis_g_v начали строить в апреле 2023 года. С тех пор мы стали свидетелями кембрийского взрыва LLM, с более чем 450 активными моделями на сегодняшний день. Думайте о нас как о Stripe для LLM. Компании обычно используют 3-6 моделей, меняя их одной строкой кода, получая все функции в одном месте без привязки.

Тяга на данный момент: • GMV >$100 млн, рост в 10 раз за 7 месяцев • 1M+ разработчиков используют наш API • 60+ хостов графических процессоров, триллионы токенов обрабатываются еженедельно, накладные расходы на периферию ~25 мс

Почему это происходит? • Расходы на выводы растут быстрее, чем численность персонала • Модели имеют время простоя (как их назвал @karpathy, "интеллектуальные отключения") и политики данных расходятся • Техническим директорам нужна надежность, финансовым директорам нужна видимость затрат, директорам по информационной безопасности нужны контрольные маршруты Компании в области ИИ становятся фактическими маршрутизаторами моделей...

Полная история в WSJ: Спасибо @a16z, @menloventures, @sequoia и другим, кто поддержал нас в нашем ангельском раунде, включая @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein и @figma!