DeepX завершила проектирование DX-M2 — 2-нм ускорителя для языковых моделей

Компания заявляет поддержку моделей до 100 млрд параметров, но потребление в 5 Вт указывает только для самого чипа. Первые образцы ожидаются в марте 2027 года, массовый выпуск — осенью того же года.

Южнокорейский разработчик ИИ-чипов DeepX завершил проектирование 2-нм ускорителя DX-M2 и передал проект в производство. Как рассказали руководители компании EE Times, чип предназначен для локального запуска больших языковых моделей в роботах, дронах и компьютерах. Первые образцы ожидаются в марте 2027 года, серийное производство намечено на осень.

По заявлению DeepX, DX-M2 рассчитан на модели с 20–100 млрд параметров и скорость генерации 10–30 токенов в секунду в зависимости от модели. Поддерживается архитектура Mixture of Experts (MoE), при которой для обработки токена задействуется лишь часть модели. Заявленный диапазон соответствует примерно 3–20 млрд активных параметров.

На официальной странице DX-M2 уточняется, что энергопотребление 5 Вт указано только для системы на кристалле, без внешней оперативной памяти. Заявлены поддержка до 96 ГБ LPDDR5X, пропускная способность памяти до 153,6 ГБ/с и исполнение в виде модулей M.2 или плат PCIe. Характеристики пока предварительные.

Отдельно DeepX совместно с Samsung испытывает LPDDR5x-PIM — память с возможностью выполнения вычислений внутри микросхем. В неё предполагается перенести умножение матрицы на вектор, одну из операций при работе языковых моделей, чтобы сократить передачу данных между памятью и ускорителем.

По результатам моделирования DeepX, это ускорит генерацию Llama 3.1 8B в 6,7 раза относительно DX-M2 без PIM, но увеличит общее энергопотребление в 2,7 раза. Это расчёт, а не измерение готовой системы; компилятор для такого режима ещё дорабатывается.