NVIDIA сообщила о росте энергоэффективности серверов Blackwell с DSX MaxLPS на 23%

Облачный провайдер Lambda с помощью NVIDIA DSX MaxLPS запустил 19 вычислительных узлов в энергобюджете, рассчитанном на 16 узлов. Совокупная скорость генерации выросла на 24%, а производительность на ватт — на 23%.

На конференции AI Infra Summit компания NVIDIA представила результаты испытаний системы управления энергопотреблением DSX MaxLPS на серверах с ускорителями поколения Blackwell.

DSX MaxLPS отслеживает потребление энергии на уровне графических процессоров и стоек, а затем динамически перераспределяет доступную мощность между нагрузками. В тестах облачного провайдера Lambda это позволило разместить 19 узлов в энергобюджете, обычно рассчитанном на 16 полностью загруженных узлов. Совокупная производительность кластера увеличилась примерно с 4 млн до 5 млн токенов в секунду — на 24%, а производительность на ватт выросла на 23%.

По оценке NVIDIA, в инфраструктуре на базе следующего поколения Vera Rubin NVL72 технология сможет в подходящих конфигурациях увеличить число графических процессоров в пределах прежнего мегаваттного бюджета до 40%. Эти показатели являются результатами и прогнозами NVIDIA и её партнёров.

Компания также показала DSX Flex — средство управления нагрузкой по сигналам энергосети. Emerald AI испытала его совместно с муниципальным поставщиком электроэнергии Silicon Valley Power: система временно ограничивала выполнение менее приоритетных задач при запросах на снижение потребления, сохраняя работу критических нагрузок.