Мы только что помогли Reve AI (@reveimage) масштабировать его крупномасштабную модель языкового восприятия с помощью выделенного хостинга моделей Hyperbolic и сократили их ожидаемые облачные расходы на 70%. Для выделенного хостинга Reve AI Hyperbolic обрабатывал около 7 миллионов запросов ежедневно, что привело к ~10 миллиардам входных токенов и ~2 миллиардам выходных токенов в день, поддерживаемых на протяжении месяца с высокой надежностью. Посмотрите наше исследование случая ниже👇
"Найти хост для конкретной модели, которую мы хотели использовать, было непросто — Hyperbolic была единственной платформой, которая была готова к запуску. Не только производительность была выдающейся, но и их цены абсолютно раздавили основных конкурентов. Кроме того, основатели Hyperbolic предоставляют лучшую поддержку клиентов, с которой мы когда-либо сталкивались, всегда делая больше, чем требуется, чтобы решить наши потребности. Партнерство с ними стало для нас огромной победой." — Тэсуна Пак, соучредитель Reve AI (@Taesung)
12,63K