Vi har officiellt en modell med öppen källkod nära gränsen som körs på @GroqInc med 185 tok/s. Det kommer bara att bli snabbare härifrån. Detta kommer att öppna upp många möjligheter.
Aarush Sah
Aarush Sah15 juli 09:58
Vi har sett en stor efterfrågan på Kimi K2 på @GroqInc. Vi är glada att kunna säga att den nu är tillgänglig på Groq API med 185 tokens per sekund, 6 gånger snabbare än någon annan leverantör (I FULL KONTEXT)
50,81K