Z radością ogłaszamy zbiórkę 40 milionów dolarów dla @OpenRouterAI (seed + A), prowadzonej przez a16z i Menlo! Wnioskowanie LLM będzie największym rynkiem oprogramowania na świecie. Staliśmy się płaszczyzną sterowania #1. Oto, co dalej:

LLM-y zasługują na swoje miejsce w sieci, dlatego to właśnie z @louis_g_v postanowiliśmy zbudować w kwietniu 2023 roku. Od tego czasu byliśmy świadkami eksplozji kambryjskiej w LLM-ach, z ponad 450 działającymi dzisiaj. Myślij o nas jak o Stripe dla LLM-ów. Firmy zazwyczaj korzystają z 3-6 modeli, zmieniając je w jednej linii kodu, uzyskując wszystkie funkcje w jednym miejscu bez lock-inu.

Dotychczasowa trakcja: • 100 mln > mln USD GMV, 10-krotny wzrost w ciągu 7 miesięcy • 1 mln+ programistów korzystających z naszego API • 60+ hostów GPU, biliony tokenów przetwarzanych tygodniowo, ~25 ms narzutu na krawędź

Dlaczego to się dzieje? • Wydatki na wnioskowanie rosną szybciej niż liczba pracowników • Modele mają przestoje ("inteligentne przerwy", jak je nazwał @karpathy) i polityki danych się rozdzielają • CTO potrzebują niezawodności, CFO potrzebują przejrzystości kosztów, CISO potrzebują kontroli trasowania Firmy AI stają się de facto routerami modeli...

Pełna historia w WSJ: Dzięki @a16z, @menloventures, @sequoia i innym, którzy wsparli nas w naszej rundzie anielskiej, w tym @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein i @figma!