NVIDIA раскрыла энергосберегающие механизмы Groq 3 LPX для Vera Rubin

NVIDIA описала управление питанием ускорителя инференса Groq 3 LPX, предназначенного для платформы Vera Rubin. Детерминированное выполнение позволяет заранее прогнозировать токовую нагрузку: во внутренних испытаниях это сократило просадки напряжения более чем на 60%, а потенциальная экономия энергии оценивается примерно в 10% или немного больше.

NVIDIA раскрыла технические детали управления питанием Groq 3 LPX — ускорителя инференса с низкой задержкой для платформы Vera Rubin. Компилятор заранее составляет точное до такта расписание вычислений и перемещения данных для всех 256 специализированных процессоров LPU в стойке.

Такое расписание позволяет предсказывать потребление тока на каждом такте. Технология Preemptive Power (PEP) заблаговременно подготавливает систему питания к росту нагрузки, а Clock Period Synthesis (CPS) изменяет длительность отдельных тактов, сглаживая резкие скачки потребления.

По данным внутренних испытаний NVIDIA, совместное применение PEP и CPS уменьшает просадки напряжения более чем на 60%. Сокращение необходимого запаса напряжения, по оценке компании, может снизить энергопотребление той же нагрузки примерно на 10% или немного больше по сравнению с сопоставимой системой без детерминированного выполнения.

Groq 3 LPX предназначен для работы вместе со стоечной системой Vera Rubin NVL72 во второй половине 2026 года. NVIDIA заявляет, что такая конфигурация обеспечивает до 35 раз более высокую пропускную способность на мегаватт, чем GB200 NVL72, при обслуживании моделей с числом параметров свыше 2 трлн, длинным контекстом и высокими требованиями к интерактивности.