Tencent открыла веса MoE-модели Hy3 с 295 млрд параметров

Tencent Hunyuan официально выпустила Hy3 — языковую модель на архитектуре Mixture-of-Experts с 295 млрд параметров, из которых 21 млрд активны при инференсе. Компания заявляет, что модель сопоставима с более крупными открытыми флагманскими моделями и распространяется под лицензией Apache 2.0.

Tencent официально выпустила Hy3 — большую языковую модель семейства Hunyuan на архитектуре Mixture-of-Experts (MoE). У модели 295 млрд параметров, из них 21 млрд активируются при работе; также заявлены 3,8 млрд параметров MTP-слоя и контекстное окно до 256 тыс. токенов.

Компания утверждает, что Hy3 по качеству сопоставима с флагманскими открытыми моделями, превосходящими ее по масштабу параметров в 2–5 раз. По внутренним оценкам Tencent, доля галлюцинаций снизилась с 12,5% до 5,4%, а в слепой оценке 270 экспертов модель набрала 2,67 балла из 4 против 2,51 у GLM-5.1.

Веса Hy3 доступны под лицензией Apache 2.0 на Hugging Face, ModelScope, GitCode и CNB; опубликована также FP8-квантованная версия. Tencent уже встроила модель в собственные продукты и сервисы, включая WorkBuddy/CodeBuddy, Yuanbao, WeChat и игровые сценарии.