Раді оголосити про підвищення на 40 мільйонів доларів для @OpenRouterAI (посів + A) на чолі з a16z і Menlo! LLM inference буде найбільшим ринком програмного забезпечення у світі. Ми стали керуючим літаком #1. Ось що далі:

LLM заслуговують на окреме місце в Інтернеті, тому це те, що ми з @louis_g_v вирішили створити у квітні 2023 року. З тих пір ми стали свідками кембрійського вибуху в LLM, з 450+ живими сьогодні. Думайте про нас як про Stripe для LLM. Компанії зазвичай використовують 3-6 моделей, змінюючи їх в одному рядку коду, отримуючи всі функції в одному місці без прив'язки.

Тяга на даний момент: • >$100 млн GMV, що в 10 разів більше за 7 місяців • 1М+ розробників з використанням нашого API • 60+ хостів на відеокартах, трильйони токенів, що обробляються щотижня, ~25 мс над головними витратами

Чому так відбувається? • Витрати на висновки зростають швидше, ніж кількість голів • У моделей час простою («браунаути інтелекту», як їх @karpathy назвав) і політики даних розходяться • Технічним директорам потрібна надійність, фінансовим директорам потрібна видимість витрат, CISO потрібен контроль маршрутизації Компанії, що займаються штучним інтелектом, самі стають де-факто модельними маршрутизаторами...

Повний сюжет у WSJ: Дякуємо @a16z, @menloventures, @sequoia та іншим, хто підтримував нас у нашому ангельському раунді, включаючи @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein та @figma!