Nous sommes ravis d’annoncer une levée de fonds de 40 millions de dollars pour @OpenRouterAI (seed + A), menée par a16z et Menlo ! L’inférence LLM sera le plus grand marché de logiciels au monde. Nous sommes devenus le plan de contrôle #1. Voici la suite :

Les LLMs méritent leur propre place sur le web, c'est ce que @louis_g_v et moi avons décidé de construire en avril 2023. Depuis, nous avons assisté à une explosion cambrienne des LLMs, avec plus de 450 en ligne aujourd'hui. Pensez à nous comme à Stripe pour les LLMs. Les entreprises utilisent généralement 3 à 6 modèles, les changeant en une ligne de code, obtenant toutes les fonctionnalités au même endroit sans verrouillage.

Traction jusqu’à présent : • > 100 millions de dollars de GMV, multiplié par 10 en 7 mois • + de 1 million de développeurs utilisant notre API • + de 60 hôtes GPU, des milliards de jetons traités chaque semaine, une surcharge de bord de ~25 ms

Pourquoi cela se produit-il ? • Les dépenses en inférence augmentent plus rapidement que le nombre d'employés • Les modèles ont des temps d'arrêt ("pannes d'intelligence", comme les a appelées @karpathy) et les politiques de données divergent • Les CTO ont besoin de fiabilité, les CFO ont besoin de visibilité sur les coûts, les CISO ont besoin de contrôles de routage Les entreprises d'IA deviennent elles-mêmes des routeurs de modèles de facto...

Histoire complète dans le WSJ : Merci à @a16z, @menloventures, @sequoia, et aux autres qui nous ont soutenus lors de notre tour de financement par des anges, y compris @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein, et @figma !