NVIDIA представила AIOps-платформу Minerva для мониторинга ИИ-инфраструктуры

Minerva объединяет телеметрию графических ускорителей, сетевого и дискового оборудования, планировщиков и ИИ-нагрузок. Платформа выявляет аномалии, связывает сбои с затронутыми заданиями и помогает операторам находить первопричины проблем.

NVIDIA представила Minerva — платформу класса AIOps, использующую искусственный интеллект для эксплуатации крупных вычислительных кластеров. Система предназначена для сквозного мониторинга так называемых фабрик ИИ — инфраструктуры для обучения моделей и обслуживания ИИ-приложений.

Minerva собирает телеметрию графических процессоров, сетей, хранилищ, планировщиков и рабочих нагрузок. На основе этих данных платформа формирует динамический граф знаний, связывающий ускорители, сетевые адаптеры SuperNIC, коммутаторы, кабели и выполняемые задания. Это позволяет определить, какой компонент замедляет обучение модели или другую вычислительную задачу.

По данным NVIDIA, Minerva анализирует миллиарды показателей в час, изучает нормальное поведение оборудования, обнаруживает ранее неизвестные аномалии и прогнозирует возможные отказы. Связанные события система объединяет в один инцидент с предполагаемой первопричиной вместо формирования множества отдельных предупреждений.

В платформу входит ИИ-ассистент с интерфейсом на естественном языке. Он может оценивать состояние кластера и предлагать способы устранения неполадок; применение исправлений можно оставить оператору либо передать средствам автоматизации через API.

Оператор инфраструктуры IREN уже использует Minerva. Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI и Tesla планируют развернуть платформу, а Dell Technologies, Lenovo и Supermicro включат ее в свои решения для эксплуатации ИИ-инфраструктуры.