¡Emocionado de anunciar un aumento de $ 40 millones para @OpenRouterAI (semilla + A), liderado por a16z y Menlo! La inferencia de LLM será el mercado de software más grande del mundo. Nos hemos convertido en el avión de control #1. Esto es lo que sigue:

Los LLM merecen su propio lugar en la web, así que eso es lo que @louis_g_v y yo nos propusimos construir en abril de 2023. Desde entonces, hemos visto una explosión cámbrica en LLM, con 450+ en vivo hoy. Piense en nosotros como Stripe para los LLM. Las empresas suelen utilizar de 3 a 6 modelos, cambiándolos en una línea de código, obteniendo todas las funciones en un solo lugar sin bloqueo.

Tracción hasta ahora: • >100 millones de dólares de GMV, 10 veces más en 7 meses • +1 millón de desarrolladores que utilizan nuestra API • 60+ hosts de GPU, billones de tokens procesados semanalmente, ~25 ms de sobrecarga perimetral

¿Por qué sucede esto? • El gasto en inferencia está aumentando más rápido que el número de empleados • Los modelos tienen tiempo de inactividad ("apagones de inteligencia", como los @karpathy los llamaban) y las políticas de datos divergen • Los CTO necesitan confiabilidad, los CFO necesitan visibilidad de costos, los CISO necesitan controles de enrutamiento Las empresas de IA se están convirtiendo en routers modelo de facto...

Historia completa en el WSJ: ¡Gracias a @a16z, @menloventures, @sequoia y a los demás que nos apoyaron en nuestra ronda de ángeles, incluidos @amasad, @OfficialLoganK, @FEhrsam, @dfinzer, @jweinstein y @figma!