Vi är glada över att kunna tillkännage en höjning på 40 miljoner dollar för @OpenRouterAI (seedad + A), ledd av a16z & Menlo! LLM-inferens kommer att bli den största mjukvarumarknaden i världen. Vi har blivit kontrollplanet #1. Här är vad som händer härnäst:

LLM:er förtjänar sin egen plats på webben, så det är vad @louis_g_v och jag bestämde oss för att bygga i april 2023. Sedan dess har vi sett en kambrisk explosion i LLM:er, med 450+ live idag. Tänk på oss som Stripe för LLM:er. Företag använder vanligtvis 3-6 modeller, ändrar dem i en rad kod och får alla funktioner på ett ställe utan inlåsning.

Dragkraft hittills: • >100 miljoner dollar GMV, upp 10x på 7 månader • 1M+ utvecklare som använder vårt API • 60+ GPU-värdar, biljoner tokens som bearbetas varje vecka, ~25 ms edge overhead

Varför händer detta? • Utgifterna för inferens ökar snabbare än antalet anställda • Modeller har driftstopp ("intelligence brownouts", som @karpathy kallade dem) och datapolicyerna skiljer sig åt • CTO:er behöver tillförlitlighet, CFO:er behöver kostnadssynlighet, CISO:er behöver routingkontroller AI-företag håller själva på att bli de facto-modellroutrar...

Hela artikeln i WSJ: Tack till @a16z, @menloventures, @sequoia och de andra som stöttade oss i vår änglarunda, inklusive @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein och @figma!