NVIDIA начала внедрение 102,4-Тбит/с коммутаторов Spectrum-6 в крупнейших ИИ-кластерах

NVIDIA сообщила о начале внедрения Ethernet-коммутаторов Spectrum-6, рассчитанных на объединение сотен тысяч ускорителей в инфраструктуре Vera Rubin. Первыми системы получат облачные платформы CoreWeave, Microsoft и Nebius.

NVIDIA сообщила о начале внедрения Spectrum-6 — Ethernet-коммутаторов с пропускной способностью 102,4 Тбит/с, созданных для вычислительной платформы Vera Rubin. Их производительность вдвое превышает показатель предыдущего поколения.

Spectrum-6 вместе с сетевыми адаптерами ConnectX-9 SuperNIC образует новое поколение платформы Spectrum-X Ethernet. Она предназначена для масштабирования ИИ-кластеров на сотни тысяч ускорителей и оптимизирована для интенсивного обмена данными между GPU при обучении моделей и инференсе.

Коммутаторы поддерживают подключаемую и интегрированную в корпус чипа оптику, а также жидкостное охлаждение. Программное обеспечение Spectrum-X распределяет трафик между доступными маршрутами, обходит отказавшие соединения и восстанавливает передачу потерянных данных.

CoreWeave, Microsoft и Nebius названы среди первых облачных операторов, которые развернут инфраструктуру Vera Rubin со Spectrum-6. По оценке NVIDIA, Spectrum-X обеспечивает до 1,6 раза более высокую производительность ИИ-сетей по сравнению со стандартным Ethernet и до 95% эффективности сети в системах, объединяющих более 100 тысяч GPU.