mimile
mimile.ai
На главную

Nvidia представила стойку Groq 3 LPX и независимый бенчмарк на 3431 токен/с

AI-дайджест

Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.

Nvidia представила стойку Groq 3 LPX и независимый бенчмарк на 3431 токен/с

Nvidia представила на Hot Chips 2026 стойку для инференса Groq 3 LPX и опубликовала независимый бенчмарк: 3431 выходной токен в секунду на модели Gemma 4 31B с контекстом 100K. Стойка уже запущена в производство на базе чипа LP30, полученного в результате сделки с Groq за 20 млрд долларов. Показатель примерно в четыре раза выше ближайшего публичного эндпоинта, хотя сравнение проводилось на частном предрелизном эндпоинте при одиночных запросах.

6 источников

Nvidia представила стойку Groq 3 LPX и независимый бенчмарк на 3431 токен/с