NVIDIA выпустила мультимодальную Nemotron 3.5 Super VL и локальную модель Bolt 74B-A9B

NVIDIA расширила семейство моделей с открытыми весами Nemotron 3.5 решениями для серверных и локальных ИИ-агентов. Мультимодальная Super VL и рассчитанная на 24 Гбайт памяти Bolt 74B-A9B уже доступны, компактная Bolt E4B должна выйти 23 октября.

NVIDIA представила три модели с открытыми весами для ИИ-агентов. Nemotron 3.5 Super VL и Bolt 74B-A9B 24GB уже выпущены, а Bolt E4B 4GB станет доступна 23 октября.

Nemotron 3.5 Super VL — мультимодальная модель со 120 млрд параметров и архитектурой «смесь экспертов», активирующей 12 млрд параметров для каждого токена. Она объединяет рассуждения и вызов инструментов с обработкой текста, изображений, веб-страниц, таблиц, диаграмм, документов и видео. Организации могут дополнительно обучать модель на собственных данных с помощью NVIDIA NeMo и развёртывать её в своей инфраструктуре.

По данным NVIDIA, на одном графическом процессоре Super VL обеспечивает до пяти раз более высокую пропускную способность, чем другие модели с открытыми весами сопоставимого класса. Компания опубликовала базовые, дообученные и квантованные контрольные точки, наборы данных, рецепты обучения и среды для обучения с подкреплением. Модель доступна на Hugging Face, а подробности архитектуры приведены в техническом описании.

Nemotron 3.5 Bolt 74B-A9B использует двухбитное квантование и рассчитана на запуск в 24 Гбайт памяти одновременно с другими приложениями. Она поддерживает llama.cpp, Ollama, LM Studio, Unsloth и vLLM. Более компактная Bolt E4B предназначена для локальных голосовых помощников, интерактивных персонажей и встраиваемых интерфейсов на GeForce RTX, Jetson и DGX Spark.