Стартап Mostik связал ИИ-модели без обмена текстовыми ответами

Команда математиков из стартапа Mostik разработала способ объединять возможности разных ИИ-моделей через их внутренние числовые представления. По утверждению компании, экспериментальная связка крупных и компактных открытых моделей снижает вычислительные расходы, однако подробности метода пока не опубликованы.

Стартап Mostik разработал способ взаимодействия ИИ-моделей без передачи готовых текстовых ответов. Как сообщает WIRED, модели обмениваются числовыми представлениями, связанными с их весами, что позволяет использовать возможности крупной системы при выполнении части вычислений компактной моделью.

В демонстрации Mostik объединила открытую модель GLM-5.2 на 753 млрд параметров с версией Qwen-3.5 на 4 млрд параметров, способной работать на мобильном устройстве. Компания утверждает, что гибридная система обходится в 20 раз дешевле полного запуска GLM-5.2, а по производительности занимает промежуточное положение между двумя исходными моделями.

Mostik также применила метод в системе для ARC-AGI — набора тестов на способность решать новые абстрактные задачи. Стартап не раскрывает архитектуру и результаты этого решения до завершения конкурса ARC-AGI 3, поэтому независимо оценить заявленные показатели пока невозможно.

Генеральным директором Mostik и автором подхода названа Александра Малышева, главным научным сотрудником — профессор Женевского университета и лауреат Филдсовской премии 2010 года Станислав Смирнов. Команда рассчитывает, что технология позволит эффективнее сочетать универсальные модели со специализированными системами для отдельных научных и прикладных областей.