Vi har officiellt en modell med öppen källkod nära gränsen som körs på @GroqInc med 185 tok/s. Det kommer bara att bli snabbare härifrån. Detta kommer att öppna upp många möjligheter.
Aarush Sah
Aarush Sah15 juli 09:58
We’ve ben seeing a lot of demand for Kimi K2 on @GroqInc. Happy to say that it’s now available on the Groq API at 185 tokens per second, 6x faster than any other provider (AT FULL CONTEXT)
50,93K