Современные LLM: обзор моделей (октябрь 2026)

Проект ЦИТадель

Редакция от 26 октября 2026 года. Обзор помогает выбрать языковую модель и способ её использования: через API разработчика, у стороннего провайдера или на собственном оборудовании. Здесь собраны возможности моделей, условия доступа, цены и ограничения, которые стоит учитывать при выборе. Названия и тарифы меняются быстро, поэтому этот материал вынесен из учебника по большим языковым моделям в отдельную статью.

Если не указано иначе, цены приведены в долларах за миллион текстовых токенов в формате «вход/выход» по стандартному тарифу API. Кэшированный ввод, пакетная обработка, длинный контекст, изображения, звук, поиск и другие инструменты могут оплачиваться по отдельным ставкам. У ряда провайдеров внутренние токены рассуждения входят в оплачиваемый вывод. Доступность API зависит от страны, типа учётной записи и условий договора; ссылки в обзоре ведут на документацию, где можно уточнить условия перед подключением.

Оглавление

1. Что учитывать при выборе
2. Коммерческие API
   • OpenAI
   • Anthropic
   • Google
   • xAI
   • DeepSeek
   • MiniMax
   • Xiaomi
   • Meta^*
   • Baidu
   • Mistral
3. Модели с открытыми весами
   • OpenAI gpt-oss
   • Google Gemma 4
   • DeepSeek V4.1 Flash и V4
   • Z.ai: GLM
   • MiniMax M3
   • Moonshot AI: Kimi
   • Xiaomi MiMo V2.6
   • Alibaba: Qwen
   • Mistral
   • Cohere Command A+
   • StepFun
   • Tencent
   • NVIDIA Nemotron
   • Meta^* Muse Spark Open и Muse Glimmer
   • inclusionAI Ling
   • IBM Granite
   • Ai2 Olmo 3.1
4. Российские модели и платформы
   • GigaChat
   • Yandex Cloud
   • T-Tech
   • MWS
5. Где запускать модель
   • API разработчика
   • Шлюз-агрегатор
   • Специализированный хостинг открытых моделей
   • Самостоятельное размещение
6. Практический выбор
   • Сложное рассуждение и агентное программирование
   • Массовая классификация, извлечение и преобразование текста
   • Изолированный контур
   • Длинные документы

1. Что учитывать при выборе

Название семейства даёт лишь общее представление о модели. Для работы важны точный model ID и endpoint, через который она доступна. Название в чат-приложении может отличаться от идентификатора в API, а у разных провайдеров для одной и той же модели могут различаться ограничения контекста, квантизация, скорость, инструменты и правила обработки данных.

Затем стоит проверить статус модели. Стабильная версия (GA) обычно предпочтительнее для production: модель в preview могут быстро изменить или отключить. Статус deprecated означает, что модель больше не рекомендуют для новых интеграций; срок её отключения указывается отдельно. Обновляемый alias удобен для экспериментов, а фиксированный snapshot — для воспроизводимых прогонов и контролируемых обновлений.

Контекстное окно определяет технический предел длины запроса, но качество работы с длинным документом приходится проверять отдельно. Модель может по-разному извлекать сведения из начала, середины и конца текста. При выборе важны полнота извлечения, соблюдение инструкций и стоимость обработки документа нужной длины. Подробнее это разобрано в главе о контекстном окне.

У моделей с настраиваемым рассуждением на результат влияет и effort: этот параметр управляет тем, насколько интенсивно модель анализирует задачу, планирует решение и проверяет ответ. Низкий уровень обычно уменьшает задержку и расход токенов; высокий может улучшить результат при решении сложных задач, но увеличивает время и стоимость запроса. Дополнительное рассуждение не гарантирует правильности и не всегда полезно для простых задач.

Параметр effort задаётся в запросе и не ограничивает длину ответа. Например, у OpenAI для reasoning.effort используются уровни none, minimal, low, medium, high, xhigh и max; поддерживаемый набор и значение по умолчанию зависят от модели. За этими названиями не скрывается фиксированное число токенов, и одинаковые уровни у разных моделей и провайдеров нельзя сопоставлять напрямую.

Бенчмарки помогают наметить кандидатов, но результаты зависят от версии набора, способа запуска, бюджета рассуждения, количества попыток и инструментов. Окончательный выбор требует собственной оценки на реальных данных. Для воспроизводимости нужно фиксировать model ID, провайдера и параметры запроса, включая настройки рассуждения.

2. Коммерческие API

OpenAI

Во флагманскую линейку входят GPT-6 Astra, GPT-6.1 Sol и GPT-6 Luna. У всех трёх контекст составляет 1,05 млн токенов, а предел вывода — 128 тыс. Astra принимает текст и изображения; она рассчитана на самые сложные задачи, связанные с рассуждением, программированием, работой с компьютером, исследованиями и созданием документов.

GPT-6.1 Sol, предыдущая GPT-6 Sol и Luna также принимают текст и изображения и генерируют текст. Нативные аудио- и видеомодальности и fine-tuning не поддерживаются ни у одной из четырёх моделей. Инструмент генерации изображений в Responses не означает, что языковая модель сама поддерживает изображения как выходную модальность.

Модель	Назначение	Вход/выход
gpt-6-astra	Самые сложные задачи	$10/$50
gpt-6.1-sol	Сложное программирование и профессиональная работа	$2/$10
gpt-6-luna	Массовые запросы	$0,10/$0,50

GPT-6.1 Sol выпущена 29 сентября. Предыдущая gpt-6-sol, появившаяся 22 сентября вместе с Luna, остаётся доступной за $2/$10: у неё то же контекстное окно объёмом 1,05 млн токенов и предел вывода 128 тыс. токенов. В каталоге она перенесена в раздел предыдущих моделей.

Из семейства GPT-5.6 доступны gpt-5.6-sol ($4/$20), gpt-5.6-terra ($2/$12) и gpt-5.6-luna ($0,20/$1,20). Alias gpt-5.6 указывает на Sol. Промоционный тариф GPT-5.6 Sol действует как минимум до 21 ноября 2026 года. На дату обзора карточки моделей GPT-6 и GPT-5.6 не содержат отдельных датированных ID, поэтому для воспроизведения результатов важно также учитывать дату прогона и изменения в документации.

Стоимость длинных запросов и кэша. При вводе свыше 272 тыс. токенов ставки на ввод, чтение и запись кэша умножаются на 2, а на вывод — на 1,5 для всего запроса. Эти условия приведены, например, в карточке Astra. У GPT-6.1 Sol кэшированный ввод стоит $0,10, запись — $2,50. До применения длинноконтекстной надбавки чтение/запись кэша у Astra стоят $1/$12,50, у GPT-6 Sol — $0,20/$2,50, у Luna — $0,01/$0,125. Эти ставки записи относятся к TTL 30m.

Для GPT-5.6 и более новых моделей срок хранения кэша задаётся через prompt_cache_options.ttl вместо prompt_cache_retention. В Responses API доступны 30m (по умолчанию) и 12h: минимальный срок хранения составляет соответственно 30 минут и 12 часов, а запись стоит 1,25 и 2,5 обычной цены ввода. Цена чтения одинакова для обоих вариантов. TTL задаёт минимальный срок хранения, а не срок обязательного удаления кэша. Каждый входной токен оплачивается по одной категории: обычный ввод, чтение кэша или запись кэша. Ставка записи заменяет обычную ставку для записываемых токенов, а не прибавляется к ней.

Минимальный кэшируемый префикс составляет 1024 видимых входных токена; скрытые инструкции OpenAI в этот минимум не входят. Поддерживаются неявное и явное кэширование. При prompt_cache_options.mode: "explicit" без явно заданного breakpoint запрос не читает и не записывает кэш. Breakpoint после стабильной части позволяет не оплачивать запись постоянно меняющегося окончания. При TTL 30m после повторного чтения кэш хранится ещё как минимум 30 минут без новой платы за запись, но общий префикс и действующий TTL сами по себе не гарантируют попадания в кэш.

Рассуждение и инструменты. В API GPT-6 Astra и GPT-6.1 Sol поддерживают low, medium, high, xhigh и max; уровни none и minimal недоступны. Для вызова инструментов нужен Responses API. У GPT-6 Sol и Luna Chat Completions позволяет вызывать функции только при reasoning_effort=none; сочетание рассуждения и инструментов также требует Responses API. Для GPT-6 при значении effort, отличном от none, следует убрать temperature, top_p и top_logprobs. В Chat Completions также нужно убрать параметр logprobs, а в Responses — значение message.output_text.logprobs из массива include.

Для GPT-5.6 и GPT-6 в Responses API режим рассуждения задаётся независимо от effort: reasoning.mode: "standard" используется по умолчанию, "pro" включает дополнительную работу для сложных задач без изменения model ID. В pro токены этой работы агрегируются и оплачиваются по стандартным ставкам выбранной модели. Одинаковая цена миллиона токенов не означает одинаковой стоимости запроса. Для воспроизводимости нужно фиксировать также reasoning.mode.

В Responses max_output_tokens задаёт общий лимит для токенов рассуждения, видимого вывода и невидимых форматирующих токенов. Токены рассуждения занимают место в контексте и оплачиваются как вывод, поэтому 128 тыс. токенов не являются гарантированной длиной видимого ответа. При исчерпании лимита возможен status: "incomplete" с incomplete_details.reason: "max_output_tokens" ещё до появления видимого текста; ввод и выполненное рассуждение при этом уже оплачиваются.

Продолжение диалога. Для GPT-5.6 документированы reasoning.context: "current_turn" и "all_turns"; по умолчанию используется all_turns. Поддержка all_turns также прямо указана для GPT-6.1 Sol. В этом режиме нужно передать предыдущие response items через previous_response_id, conversation или в составе полной истории, сформированной вручную.

При store: false и Zero Data Retention зашифрованное содержимое reasoning items возвращается по умолчанию, без отдельного запроса через include. При ручном продолжении нужно сохранять все output items, включая reasoning и исходные значения assistant phase. Для цепочки вызовов функций рекомендуется передавать без изменений соответствующие reasoning items, вызовы и результаты с последнего сообщения пользователя. Совместимое рассуждение повторно используется внутри семейства, но не между произвольными семействами; зашифрованные элементы не раскрывают сырое внутреннее рассуждение.

В стандартном одноагентном режиме Responses API для GPT-6 между ответами можно добавлять configuration_update с новым effort, не меняя заданный на уровне запроса reasoning.effort для сохранения кэшируемого префикса. Обновление действует до следующего обновления, но поле reasoning.effort в ответе продолжает показывать настройку запроса. Соседние configuration_update запрещены; механизм несовместим с автоматической компактизацией и автоматическим усечением. Для воспроизводимости необходимо сохранять также историю этих обновлений.

Режим обслуживания и регион. У четырёх перечисленных GPT-6 тарифы Batch и Flex составляют 50% стандартных ставок, Fast — вдвое дороже при условиях применимости из карточки модели. Для GPT-6.1 Sol, GPT-6 Sol и Luna regional processing, где доступен, добавляет 10%. У GPT-6.1 Sol, GPT-6 Sol и Luna Fast поддерживает EU data residency. У GPT-6.1 Sol EU data residency поддерживается также в Ultrafast. Для Astra режим Fast с EU data residency недоступен; Ultrafast доступен с US data residency и глобальной обработкой, но не через EU и другие региональные endpoints за пределами США. Тариф Ultrafast следует уточнять отдельно.

С 8 октября GPT-6.1 Sol поддерживает Ultrafast в Responses API: model ID остаётся gpt-6.1-sol, режим включается через service_tier: "ultrafast". Ввод/вывод стоят $12/$60, чтение/запись кэша — $0,60/$15 за миллион токенов; при вводе свыше 272 тыс. — $24/$90 и $1,20/$30. Поддерживаются глобальная обработка и US/EU data residency; regional processing добавляет 10%, где доступен. Для Ultrafast действуют отдельные rate limits.

С 22 октября 2026 года Decisions API для gpt-6-luna имеет статус GA. Endpoint остался POST /v1/decisions. Он принимает текст, изображения и JSON и возвращает ответы заданного типа для классификации и маршрутизации. Один запрос может содержать до 400 вопросов. Обычный ввод стоит $0,10 за миллион токенов; вывод не оплачивается. Чтение и запись кэша оплачиваются по обычным ставкам gpt-6-luna. Надбавки за регион обработки и длинный контекст сохраняются. Эти условия относятся только к Decisions API.

14 октября 2026 года OpenAI перевела в статус deprecated следующие snapshots: GPT-4o (gpt-4o-2024-08-06, gpt-4o-2024-11-20), GPT-4o mini (gpt-4o-mini-2024-07-18), GPT-4.1 (gpt-4.1-2025-04-14) и GPT-4.1 mini (gpt-4.1-mini-2025-04-14). Их отключат 14 января 2027 года; рекомендуемая замена — gpt-6-luna. Для fine-tuned версий действует тот же срок отключения.

Anthropic

Основные модели в линейке Claude различаются ценой и возможностями рассуждения. Fable 5.1, Opus 5.5, Sonnet 5.5 и быстрая Haiku 5.5 имеют контекстное окно 1 млн токенов и предел вывода 128 тыс. Все четыре текущие модели принимают текст и изображения, выдают текст и поддерживают инструменты.

Модель	Вход/выход	Чтение кэша
claude-fable-5-1	$10/$50	$0,25
claude-opus-5-5	$4/$20	$0,20
claude-sonnet-5-5	$2/$10	$0,10
claude-haiku-5-5 (ввод до 100 тыс. токенов включительно)	$0,10/$0,50	$0,01
claude-haiku-5-5 (ввод свыше 100 тыс. токенов)	$0,50/$2,50	$0,05

Opus 5.5 выпущена 22 сентября, Sonnet 5.5 — 28 сентября. Haiku 5.5 выпущена 7 октября. У неё ставки ввода, вывода и кэша зависят от длины ввода, как указано в таблице.

Haiku 4.5 (claude-haiku-4-5-20251001) остаётся доступной за $1/$5: контекст 200 тыс. токенов, вывод до 64 тыс. Прежняя claude-opus-5 стоит $5/$25. По тарифам кэша запись с TTL 5 минут стоит 1,25 цены обычного ввода, с TTL 1 час — 2 цены.

Fable, Opus и Sonnet поддерживают адаптивное рассуждение; у Fable 5.1 и Opus 5.5 оно включено постоянно. Effort по умолчанию у Fable 5.1 и Sonnet 5.5 — high, у Opus 5.5 — medium. У Sonnet 5.5 адаптивное рассуждение включено по умолчанию; Haiku 4.5 поддерживает extended thinking, но не effort.

У Haiku 5.5 адаптивное рассуждение включено по умолчанию, effort — medium. Прежний режим extended thinking с budget_tokens, доступный у Haiku 4.5, в новой модели приводит к ошибке 400.

При переходе с Sonnet 5 на Sonnet 5.5 нужно учесть изменения параметров: thinking: {"type":"disabled"} возвращает ошибку 400. Отключение предварительного рассуждения задаётся через thinking: {"type":"between_tools"} и доступно только при значении effort не выше high. Это отключает рассуждение до вызовов инструментов, а не весь режим рассуждения.

У Opus 5.5 thinking: {"type":"disabled"} и thinking: {"type":"enabled", ...} приводят к ошибке 400: документация рекомендует опустить поле thinking и управлять глубиной через effort. В API версии 2023-06-01 Sonnet 5.5 возвращает 400 при передаче temperature, top_p или top_k со значениями, отличающимися от заданных по умолчанию.

С 21 октября доступна версия API 2026-10-21. В ней Messages API, в том числе запросы Message Batches, возвращает 400 при любой передаче temperature, top_p или top_k, даже со значениями по умолчанию. Новые мажорные версии SDK используют её по умолчанию. Прежнюю версию 2023-06-01 можно продолжать использовать; версию нужно учитывать при настройке запросов.

Fable 5.1, Opus 5.5 и Sonnet 5.5 также не допускают принудительного tool_choice со значениями any или tool; в Sonnet 5.5 такой запрос возвращает 400. Начиная с Claude 4.6, идентификаторы без даты являются фиксированными snapshot. Новая версия получает новый ID; автоматически обновляемым alias такой идентификатор не служит. Snapshot закрепляет веса и конфигурацию модели, но маршрутизация, классификаторы безопасности и логика сэмплирования обслуживающей инфраструктуры могут меняться: неизменный ID не гарантирует полного отсутствия наблюдаемых изменений поведения.

История и миграция инструментов. Thinking-блоки Sonnet 5.5 привязаны к модели и истории разговора, а также к учётной записи, которая их создала, или к связанной с ней записи. При передаче блока из несвязанной учётной записи API удаляет его, но запрос проходит успешно. В Claude API и Google Cloud не принимается прежний computer_20251124; Advisor tool не позволяет использовать Claude Opus 4.8, Claude Opus 4.7 и Claude Sonnet 5 в качестве советников. Текст между вызовами инструментов возвращается в thinking-блоках, поэтому показ промежуточных сообщений может потребовать настройки display либо between_tools.

У Fable 5.1 для учётных записей, созданных 31 августа 2026 года или позднее, повторная передача thinking-блока после изменения предшествующего system prompt, инструментов или сообщений возвращает 400. Её блоки сохраняются для создавшей их модели либо для более новой модели; при передаче более ранней модели API их удаляет. Эти условия важно учесть при редактировании истории и выборе резервного маршрута.

Данные и реальная стоимость. Fable 5.1, выпущенная 1 сентября 2026 года, требует 30-дневного хранения данных и недоступна при zero data retention без исключения, прямо разрешённого Anthropic. Согласно прайс-листу, в новых Claude используется токенизатор, который для того же текста создаёт примерно на 30% больше токенов, чем прежний; точное изменение зависит от содержимого. У Fable 5.1, Opus 5.5 и Sonnet 5.5 стандартные ставки, кэширование и пакетные скидки действуют во всём миллионном окне. При вводе свыше 100 тыс. токенов у Haiku 5.5 повышаются ставки ввода, вывода и кэша.

Batch API предоставляет скидку 50% на вход и выход. У Sonnet 5.5 в Message Batches API есть beta-режим вывода до 300 тыс. токенов с заголовком output-300k-2026-03-24; стандартный предел остаётся 128 тыс. У Haiku 5.5 также есть beta-предел вывода до 300 тыс. токенов в Batch API.

С 15 октября режим Fast для Opus 5.5 вышел из research preview и больше не требует beta-заголовка. Он стоит $8/$40 и работает в Claude API, в Claude Models on Google Cloud (Anthropic managed), а также в Microsoft Foundry для развёртываний на Azure. В Claude Platform on AWS и в сочетании с Batch API этот режим недоступен.

US-only inference через inference_geo: "us" повышает ставки для всех категорий токенов, включая кэш, на 10%; у Bedrock и Claude Models on Google Cloud (Google managed) собственные региональные цены.

Fable 5.1, Opus 5.5, Sonnet 5.5 и Haiku 5.5 доступны в Claude API, Bedrock, Google Cloud, Microsoft Foundry и Claude Platform on AWS. Bedrock и Claude Platform on AWS — разные варианты обслуживания и биллинга; партнёрские тарифы нужно проверять отдельно. Anthropic рекомендует использовать Opus 5.5 как отправную точку для большинства нагрузок, а Fable рассматривать для сложного рассуждения и длительных агентных задач, в том числе при неудовлетворительных собственных оценках Opus с повышенным effort. Это рекомендация разработчика, а не независимый рейтинг.

Жизненный цикл. 30 сентября 2026 года объявлено о переводе claude-sonnet-4-5-20250929 в статус deprecated; отключение в Claude API назначено на 30 ноября 2026 года, рекомендуемая замена — Sonnet 5.5. Для доступных моделей указаны следующие даты, ранее которых отключения не будет: Fable 5.1 — 1 сентября 2027 года, Opus 5.5 — 22 сентября 2027 года, Sonnet 5.5 — 28 сентября 2027 года, Haiku 5.5 — 7 октября 2027 года, Haiku 4.5 — 15 октября 2026 года. Это нижние границы обязательств, а не назначенные даты отключения.

Google

С 13 октября 2026 года доступна стабильная Gemini 4 Argon (gemini-4-argon). Она принимает текст, изображения, видео, звук и PDF, выдаёт текст. Единое окно в 1 048 576 токенов делится между вводом, рассуждением и ответом. Обычный синхронный предел вывода — 65 536 токенов; long decode позволяет продолжать генерацию до общего предела окна. Для серверного продолжения нужны background: true и max_output_tokens больше 65 536. Предел вывода включает thinking tokens и не гарантирует такую же длину видимого ответа.

Уровни рассуждения — low, medium (по умолчанию) и high. Поддерживается только implicit caching, без явных cachedContents. Минимальный кэшируемый префикс — 4096 токенов; при попадании в кэш соответствующий ввод на 95% дешевле обычного. Параметры temperature, top_p и top_k игнорируются, их следует убрать из запросов. Сама модель имеет статус GA, computer use — preview.

Тарифы Argon за миллион токенов:

Режим	Вход/выход до 30 ноября 2026 года включительно	Кэшированный ввод	Вход/выход с 1 декабря 2026 года	Кэшированный ввод
Standard	$2/$10	$0,10	$4/$20	$0,20
Batch, Flex и Contributor	$1/$5	$0,05	$2/$10	$0,10
Priority	$3,60/$18	$0,18	$7,20/$36	$0,36

Argon недоступна на Free tier и в плане Google AI Pro.

Стабильная gemini-3.8-flash имеет статус GA, контекст около 1 млн и предел вывода до 64 тыс. токенов. Уровень рассуждения настраивается: low, medium (по умолчанию) или high. Значение minimal вызывает ошибку. В графике жизненного цикла дата выпуска указана как 2 сентября 2026 года. Карточка модели задаёт максимальный ввод 1 048 576 и вывод 65 536 токенов. Она принимает текст, изображения, видео, звук и PDF, генерирует текст; генерация изображений и звука, а также Live API для этого ID не поддерживаются. Computer use имеет статус Preview, несмотря на GA самой модели.

До конца 2026 года действует вводный тариф $0,75/$3,75; с 1 января 2027 года заявлен $1,50/$7,50. Согласно прайс-листу, reasoning tokens оплачиваются как вывод. Кэшированный ввод стоит $0,075, хранение — $0,50 за миллион токенов в час; с 1 января 2027 года ставки составят $0,15 и $1 соответственно.

В режимах Batch и Flex вход/выход стоят $0,375/$1,875 до 31 декабря 2026 года включительно и $0,75/$3,75 с 1 января 2027 года. Стоимость хранения кэша не снижается вдвое: $0,50 за миллион токенов в час до конца 2026 года и $1 после. На бесплатном тарифе содержимое может использоваться для улучшения продуктов. На платных Standard, Batch, Flex и Priority оно для этого не используется. Отдельный тариф Contributor, пока доступный в private preview по приглашениям, предоставляет скидку при условии использования содержимого для улучшения продуктов.

С 26 октября 2026 года Generate Content API по умолчанию сохраняет запросы в новых проектах платного тарифа (store=true). Существующие проекты сохраняют прежнюю настройку. Хранение можно отключить через store=false в запросе или в настройках логирования проекта в Google AI Studio.

Ставки Contributor вдвое ниже ставок Standard для входных, выходных и кэшированных токенов. У Gemini 3.8 Flash до конца 2026 года это $0,375/$1,875 и $0,0375 за кэшированный ввод; с 1 января 2027 года — $0,75/$3,75 и $0,075. Хранение кэша стоит столько же, сколько на Standard. Ставки Argon указаны в таблице выше.

При миграции на Gemini 3.8 Flash нужно заменить thinking_budget на thinking_level. Параметры temperature, top_p и top_k имеют статус deprecated, их следует убрать из запросов. В контрольном списке также требуется удалить candidate_count, не поддерживаемый в Gemini 3 и новее, и заранее заполненные реплики модели. Для диалогов в Interactions API используется серверная цепочка previous_interaction_id. При использовании generateContent API все объекты FunctionResponse должны содержать call_id и name.

С 8 октября ID gemini-3.7-flash и gemini-3.5-flash имеют статус deprecated: запросы к первому ID автоматически обрабатываются моделью gemini-3.8-flash, ко второму — моделью gemini-3.6-flash. Для новых запросов Google рекомендует использовать ID заменившей модели. В каталоге остаются стабильные 3.6 Flash, 3.5 Flash-Lite и 3.1 Flash-Lite. Для gemini-3.1-flash-lite в графике указана самая ранняя возможная дата отключения — 7 мая 2027 года; точную дату Google обещает сообщить пользователям заранее. Рекомендуемая замена — gemini-3.5-flash-lite. У gemini-3.1-pro-preview сохраняется статус preview, который нужно учитывать при выборе для production и планировании миграции.

Переход с 3.1 Flash-Lite на 3.5 Flash-Lite меняет цену: Standard для текстового ввода/вывода — $0,25/$1,50 против $0,30/$2,50. У 3.1 звуковой ввод стоит отдельно $0,50; у 3.5 единая входная ставка $0,30 применяется к тексту, изображениям, видео и звуку.

xAI

Флагманской моделью в каталоге API является grok-4.7, выпущенный 21 сентября. Он принимает текст и изображения, поддерживает настраиваемое рассуждение и контекст 500 тыс. токенов. Для текстового вывода отдельного фиксированного предела нет. Прежний grok-4.6 также остаётся доступным.

При вводе менее 200 тыс. токенов стандартный тариф составляет $2/$6, кэшированный ввод стоит $0,50. Начиная с 200 тыс. токенов ставки для всего запроса повышаются до $4/$12 и $1 соответственно.

Effort принимает low, medium, high (по умолчанию) и xhigh. Responses API всегда возвращает reasoning.encrypted_content, даже если это поле не запрошено через include. Полученные элементы reasoning нужно передавать в следующий запрос без изменений.

Документация показывает POST https://api.x.ai/v1/responses; базовый URL OpenAI-клиента — https://api.x.ai/v1. Поддерживаются функции, Web Search, X Search и исполнение кода. Срез обучающих данных — май 2026 года; без включённых поисковых инструментов модель не получает актуальные события и данные. Изображения принимаются в форматах JPEG/JPG и PNG, до 20 MiB каждое; отдельного ограничения их числа каталог не устанавливает. Выход модели — текст.

Чтобы запросы надёжно попадали в кэш, разработчик настоятельно рекомендует использовать prompt_cache_key в Responses: запросы одного диалога направляются на один сервер. Без него возможен холодный кэш и полная цена ввода. Для Chat Completions указан заголовок x-grok-conv-id. Endpoint https://us.api.x.ai/v1 обеспечивает инференс в США и добавляет 10% к оплате токенов.

Grok 4.7 Fast — та же модель на более быстрой инфраструктуре, доступная только в Cursor и Grok Build, не в публичном xAI API. Она оплачивается через соответствующий план и не входит в бесплатный уровень Grok Build. Для неё указаны коэффициенты: 2× к стандартным токенным ставкам и 1,5× к ставкам для длинноконтекстных запросов.

DeepSeek

DeepSeek V4.1 Flash, выпущенная 10 сентября, нативно обрабатывает текст и изображения. Её актуальный model ID — deepseek-flash, контекст — 1 млн, вывод — до 384 тыс. токенов. Доступны режимы с рассуждением и без него, JSON, вызов инструментов, Responses API и Anthropic-совместимый API.

17 октября DeepSeek обновила V4.1 Flash до версии DeepSeek-V4.1-Flash-1017. В API она доступна под прежним ID deepseek-flash; токенные тарифы не изменились.

По прайс-листу, стоимость V4.1 Flash зависит от времени обращения:

Период	Вход без кэша/выход	Чтение кэша
Пиковые часы	$0,30/$1,20	$0,006
Остальное время	$0,15/$0,60	$0,003

Пиковые часы — 01:00–04:00 и 06:00–10:00 UTC с понедельника по пятницу, кроме государственных праздников Китая. В выходные и такие праздники внепиковые ставки действуют весь день.

В API DeepSeek рассуждение по умолчанию включено с effort high. Основные уровни — low, high и max; medium и xhigh преобразуются в high. Для самостоятельного запуска опубликованы веса V4.1 Flash и обновления 1017. В этом варианте effort задаётся целым числом от 1 до 100.

В таблице совместимости также указаны преобразования minimal в low и ultra в max. В Chat Completions режим переключается через thinking.type=enabled/disabled, а глубина задаётся reasoning_effort; OpenAI SDK передаёт thinking в extra_body. В Anthropic-совместимом формате используется output_config.effort, в Responses — reasoning.effort, где none отключает рассуждение. Базовые адреса: https://api.deepseek.com для OpenAI-совместимого формата и https://api.deepseek.com/anthropic для Anthropic-совместимого.

При работе с tools нужно возвращать полное reasoning_content предыдущих ответов, иначе API выдаёт ошибку 400. Это относится ко всем предыдущим ходам в режиме рассуждения, включая ходы без фактического вызова инструмента. Без tools передача reasoning_content не требуется; переданное поле игнорируется и не включается в контекст. Для сохранения полей документация предлагает добавлять полное response.choices[0].message, включая content, reasoning_content и tool_calls.

В режиме рассуждения temperature, presence_penalty и frequency_penalty игнорируются, а эффективный диапазон top_p составляет 0,95–1,0: значения ниже 0,95 обрабатываются как 0,95. Без рассуждения top_p фиксирован на 1,0, переданное значение игнорируется.

Для изображений поддерживаются JPEG, PNG, GIF и WebP. Их можно передавать по URL, в base64 или через Files API, как описано в руководстве Vision. Изображения преобразуются в оплачиваемые входные токены.

После преобразования каждое изображение занимает не более 1024 входных токенов; изображения учитываются независимо. detail=low уменьшает изображение до 512×512 для более быстрой и дешёвой обработки без мелких деталей. Предел — 600 изображений на запрос. Отдельное изображение через base64 или внешний URL ограничено 32 MiB, через file_id — 64 MiB. Тело запроса, включая base64, не должно превышать 48 MiB; суммарный размер изображений — 64 MiB без изображений по file_id и 200 MiB с их учётом. В Chat Completions изображения разрешены только в user; в Responses также в developer и результатах инструментов.

Для поиска и получения веб-страниц доступны Search и Fetch API: POST /v1/tools/search и POST /v1/tools/fetch. Каждый стоит $0,75 за тысячу успешных запросов. Серверные вызовы этих инструментов при использовании DeepSeek через DeepSeek Harness, Claude Code и Codex пока бесплатны; их тарификация начнётся 1 ноября 2026 года в 00:00 по Пекину.

Прежние V4 Flash и V4 Flash Vision Exp имеют статус retired. Их ID deepseek-v4-flash и deepseek-v4-flash-vision-exp временно принимаются как alias V4.1 Flash с её тарифами. API V4 Pro, напротив, сохранён после 14 сентября 2026 года с прежней тарификацией. В текущем прайс-листе deepseek-v4-pro соответствует DeepSeek-V4-Pro-0813: $1,32/$3,96 в пиковые часы и $0,66/$1,98 в остальные.

API V4 Pro не поддерживает Vision; для обеих API-моделей указаны контекст 1M и вывод 384K, режимы рассуждения, JSON Output, Tool Calls, Responses API и Anthropic API. Чтение кэша Pro стоит $0,044 в пиковые часы и $0,022 в остальные. Concurrency Limit составляет 2500 для Flash и 500 для Pro; это не число запросов в секунду.

MiniMax

Мультимодальная MiniMax-M3 доступна через API с контекстом 1 млн токенов. По стандартному тарифу при вводе до 512 тыс. токенов она стоит $0,30/$1,20, при большем вводе — $0,60/$2,40. Чтение кэша стоит соответственно $0,06 и $0,12. В прайс-листе тариф Standard обозначен как Permanent 50% off.

Режим Priority включается через service_tier=priority и стоит в 1,5 раза дороже Standard: при вводе до 512 тыс. $0,45/$1,80 и чтение кэша $0,09, при большем вводе $0,90/$3,60 и $0,18. Он предоставляет приоритет при допуске к обработке, чтобы ускорить получение ответа и повысить надёжность обслуживания.

В документации также представлена MiniMax-M3.1-Flash для программирования и агентных задач. Это мультимодальная модель с контекстом 1 млн токенов. Для неё документированы Anthropic-совместимый API, Chat Completions и Responses API. В M Plan прежняя MiniMax-M3.1-Flash-Preview снята: запросы с этим именем теперь обслуживает MiniMax-M3.1-Flash. Effort принимает low, medium, high, xhigh и max (по умолчанию). Рассуждение отключить нельзя: disabled и none вызывают ошибку 400. M3 и M3.1-Flash принимают текст, изображения и видео.

Для обеих моделей рекомендованный предел вывода составляет 131 072, максимальный — 524 288 токенов. В Chat Completions он задаётся через max_completion_tokens, прежний max_tokens имеет статус deprecated. В Messages API по-прежнему используется max_tokens. У M3 рассуждение по умолчанию включено в Chat Completions и выключено в Messages API; в Messages API оно включается через thinking.type=adaptive.

У M3 рассуждение можно отключить через thinking: {"type":"disabled"}. Для M3.1 Flash глубина задаётся reasoning_effort в Chat Completions и output_config.effort в Messages API. В Chat Completions только у M3.1-Flash глубина настраивается через reasoning_effort; остальные перечисленные модели его игнорируют. M3.1 Flash возвращает рассуждение отдельно в reasoning_content, а reasoning_split=false не поддерживается. Messages API использует блоки thinking; его tool_choice допускает только auto и none.

В Responses API используется endpoint https://api.minimax.io/v1/responses. Глубина рассуждения задаётся через reasoning.effort, предел вывода — через max_output_tokens. По единому тарифу M3.1 Flash ввод/вывод стоят $0,15/$0,60 за миллион токенов, чтение кэша — $0,015. Ставки не имеют ступеней по длине контекста. Веса M3.1 Flash опубликованы в формате MXFP8 по MiniMax Community License.

Для существующих клиентов pay-as-you-go пока доступны текстовые MiniMax-M2.7 и MiniMax-M2.7-highspeed с контекстом 204 800 токенов и вызовом инструментов, но без изображений и видео. Обычная M2.7 стоит $0,30/$1,20, highspeed — $0,60/$2,40. У обеих чтение/запись кэша стоят $0,06/$0,375.

С 19 октября 2026 года семейства M2.5 и M2.7 недоступны новым пользователям. Для существующих клиентов pay-as-you-go их API отключат 18 ноября. В M Plan и Token Plan с 19 октября запросы к M2.5 и M2.7 автоматически направляются на M3.1 Flash; прежние имена сохраняются для совместимости.

Xiaomi

MiMo V2.6 выпущена 22 сентября. В API доступны три варианта; цены приведены по международному тарифу:

Модель	Вход/выход
mimo-v2.6-pro	$0,435/$0,87
mimo-v2.6-flash	$0,14/$0,28
mimo-v2.6-pro-ultraspeed (ускоренный вариант)	$4,35/$8,70

Чтение кэша в Real-time API стоит $0,0036 у Pro, $0,0028 у Flash и $0,036 у Ultraspeed. Запись временно бесплатна, срок действия этого условия не указан; кэшированный тариф применяется при попадании префикса в Prompt Cache.

В Batch API Pro стоит $0,2175/$0,435 с чтением кэша $0,0018, Flash — $0,07/$0,14 с чтением $0,0014. Ultraspeed не поддерживает Batch. При использовании обычного API Key расходуется баланс pay-as-you-go по токенам; баланс и квота Token Plan не взаимозаменяемы.

Pro заявлена как мультимодальная модель рассуждения для сложных проектов, длительных задач, ответственной работы, кибербезопасности и исследований; Flash — для частых вызовов и масштабных задач. Для Ultraspeed разработчик заявляет уровень Pro и ускорение до 20 раз, но это не гарантированная скорость. Обычные цены ввода и вывода Ultraspeed в десять раз выше цен Pro. Использование web search и web parsing стоит отдельно $5 за 1000 вызовов; прайс-лист сам по себе не устанавливает их поддержку каждым вариантом модели.

С 14 по 21 октября 2026 года запросы с ID mimo-v2.5-pro автоматически направлялись на mimo-v2.6-pro, а с ID mimo-v2.5 — на mimo-v2.6-flash, с тарификацией по новой версии. Старые ID отключены 21 октября 2026 года в 10:00 по Пекину; запросы с ними возвращают ошибку. Следует использовать mimo-v2.6-pro и mimo-v2.6-flash.

При переходе с V2.5 на V2.6 Flash значение max_completion_tokens по умолчанию увеличивается с 32 768 до 131 072, если оно не задано в запросе. В thinking mode V2.6 Pro и Flash не принимают пользовательские temperature и top_p: используются 1,0 и 0,95.

Meta^*

Muse Wonder (muse-wonder-1.0), представленная 12 октября 2026 года, предназначена для сложного программирования, рассуждения и длительной работы с инструментами. Она принимает текст, изображения, видео, звук и PDF, выдаёт текст и имеет контекст 1 048 576 токенов. Поддерживаются уровни effort от minimal до max; используются те же API, что у Muse Spark.

В Meta Model API Wonder доступна только в Standard: $4/$20, кэшированный ввод — $0,20. Более мощная Muse Wonder Full доступна только через Muse Code по подпискам Power Usage и Maximum Usage. Выбор max у Wonder не переключает запрос на Full.

Muse Spark 1.3, выпущенная 2 сентября, ориентирована на длительные агентные задачи и программирование. В Meta Model API её ID — muse-spark-1.3, контекст — 1 048 576 токенов.

Модель принимает текст, изображения, видео и PDF, генерирует текст. Понимание аудио пока поддерживается не полностью, и качество запросов со звуком может быть снижено; для аудио документация рекомендует Muse Spark 1.2. Базовый URL — https://api.meta.ai/v1; доступны Responses API, Chat Completions API и Anthropic-совместимый Messages API.

На стандартном тарифе модель стоит $1,25/$4,25, кэшированный ввод — $0,15. Запросы и ответы не используются для обучения Meta. Вариант muse-spark-1.3-contributor значительно дешевле: $0,10/$0,20, кэшированный ввод — $0,002, однако данные запросов и ответов могут использоваться для обучения.

Effort max доступен через Muse Code и Meta Model API. В API он поддерживается только на Standard; на Contributor этот уровень недоступен.

Надбавки за длинный контекст нет. Встроенный web_search стоит отдельно $2,50 за 1000 поисковых запросов сверх токенов. Лимиты Standard — 3000 запросов и 4 млн токенов в минуту, Contributor — 100 запросов и 3 млн токенов в минуту. Они применяются к команде, а не к отдельному API-ключу.

Baidu

В международном Qianfan API доступна универсальная текстовая ernie-5.1. Её контекст — 128 тыс. токенов, максимальный ввод — 119 тыс., вывод — 65 536. В тарифе есть порог длины запроса: при вводе до 32 тыс. токенов модель стоит $0,56/$2,53, при большем вводе — $0,84/$3,10.

Для ernie-5.1 лимиты по умолчанию составляют 60 RPM и 150 000 TPM. Повышенная ставка обозначена для 32k < Input ≤ 128k, но технический предел ввода остаётся 119k. Для ernie-5.0 отдельно документированы Visual Understanding и Deep Thinking по $1,40/$5,60. В Deep Thinking указана цепочка рассуждения длиной 60k токенов. У thinking-моделей ERNIE thinking_budget не поддерживается, а max_tokens ограничивает сумму reasoning_content + content, не только окончательный ответ.

Mistral

Mistral Large 4 доступна в API с 6 октября в статусе public preview. Это универсальная мультимодальная MoE-модель с 1,05 трлн параметров, из которых 52 млрд активны. Контекст составляет 1 млн токенов. Model ID — mistral-large-4.

В прайс-листе указаны ставки $1,36/$4,18 и $0,14 за чтение кэша. Публикация весов запланирована на конец октября.

3. Модели с открытыми весами

Открытые веса позволяют самостоятельно запускать модель, но условия такого использования определяются лицензией. Открытость весов сама по себе не означает открытого исходного кода или отсутствия ограничений. Для развёртывания также важны объём памяти, поддерживаемые форматы и качество квантизаций.

У MoE-моделей ниже указаны общее число параметров и число активных параметров. От активной части в значительной мере зависит объём вычислений на токен, но для размещения нужны все веса. Поэтому модель с небольшой активной частью может требовать большого кластера.

OpenAI gpt-oss

gpt-oss-120b имеет 117 млрд параметров всего и 5,1 млрд активных, gpt-oss-20b — 21 млрд и 3,6 млрд соответственно. Обе модели работают с текстом, поддерживают контекст 131 072 токена, настраиваемое рассуждение и вызов инструментов. Веса распространяются под Apache 2.0.

У обеих effort принимает low, medium и high, максимальный вывод — 131 072 токена; веса допускают дообучение. Карточка gpt-oss-120b заявляет размещение на одной H100, но не устанавливает в этой оценке условия максимального контекста и нагрузки.

Google Gemma 4

В семействе Gemma 4 есть dense-модель 31B и MoE-модель 26B A4B. У второй 25,2 млрд параметров всего и 3,8 млрд активных. Обе принимают текст и изображения, имеют контекст 256 тыс. токенов и лицензию Apache 2.0.

Для более компактного развёртывания доступны Gemma 4 12B Unified с контекстом 256 тыс., а также E4B и E2B с контекстом 128 тыс. токенов. E2B и E4B обозначают эффективное число параметров; с эмбеддингами их полный объём составляет 5,1 и 8 млрд соответственно. E2B, E4B и 12B Unified также принимают звук; все варианты генерируют текст. Семейство поддерживает настраиваемое рассуждение и нативный вызов функций.

DeepSeek V4.1 Flash и V4

17 октября опубликованы веса обновлённой мультимодальной V4.1 Flash-1017 по лицензии MIT. Модель использует MoE и архитектуру Causal Encoder–Decoder: в основной сети 552 млрд параметров, ещё 196 млрд находятся в памяти Engram. При обработке входа (prefill) активны 8 млрд параметров на токен, при генерации (decode) — 16 млрд. Контекст достигает 1 млн токенов.

По лицензии MIT по-прежнему доступны и предыдущие веса: V4.1 Flash, V4 Pro с 1,6 трлн параметров всего и 49 млрд активных и V4 Flash с 284 млрд и 13 млрд соответственно. Эти чекпойнты не меняются при перенаправлении API-идентификаторов. Для старых API-идентификаторов deepseek-chat и deepseek-reasoner 24 апреля 2026 года было объявлено прекращение использования с 24 июля 2026 года. В переходный период они указывали соответственно на режимы без рассуждения и с рассуждением у V4 Flash.

Z.ai: GLM

Z.ai опубликовала веса текстовой GLM-5.3 с 753 млрд параметров и мультимодальной GLM-5.3-Flash с 320 млрд параметров всего и 18 млрд активных. Полноразмерная GLM-5.3 использует ту же базовую модель, что и 5.2; улучшения получены на этапе post-training. Flash построена на новой гибридной архитектуре. В API Flash и FlashX принимают текст, изображения, видео и файлы; на выходе — текст.

У полноразмерной модели действует собственная лицензия Z.ai, у Flash — MIT. Через API доступны обе модели, а также FlashX — ускоренный вариант обслуживания Flash со скоростью до 200 токенов в секунду. Для всех трёх заявлены контекст 1 млн и вывод до 128 тыс. токенов. Цены по прайс-листу Z.ai:

Модель API	Вход/выход	Чтение кэша
glm-5.3	$1,40/$4,40	$0,26
glm-5.3-flash	$0,15/$0,50	$0,03
glm-5.3-flashx	$0,37/$1,25	$0,075

Рассуждение включено постоянно. У Flash и FlashX параметр thinking.type допускает только enabled; у полноразмерной GLM-5.3 reasoning_effort принимает low, high и max (по умолчанию). Бесплатное хранение кэша у GLM-5.3, Flash и FlashX заявлено как временное условие.

У GLM-5.3 thinking.type также допускает только enabled. При миграции запроса с thinking.type: "disabled" документация требует заменить его на enabled и задать reasoning_effort: "low", иначе возникает ошибка. Для Flash/FlashX рекомендован reasoning_effort: "max"; это рекомендация, а не отдельно установленное значение по умолчанию. В карточках перечислены streaming, function calling, кэширование и структурированный вывод, включая JSON.

Для полноразмерной GLM-5.3 есть особенность доступа: учётным записям, у которых раньше была подписка GLM Coding Plan, даже если она уже истекла, пока доступен только OpenAI-совместимый Chat Completions. В общем перечне её API также указаны Responses и Anthropic-совместимый Messages; переносить этот перечень на Flash/FlashX по их карточке нельзя.

GLM-5.3-Flash доступна в GLM Coding Plan с втрое большей квотой, чем GLM-5.3. FlashX в этом плане пока недоступна, хотя есть в Model API. Квота подписки не означает трёхкратную скидку на токенные цены API.

MiniMax M3

Веса MiniMax M3 распространяются по лицензии MiniMax Community. Это мультимодальная MoE-модель примерно с 428 млрд параметров всего и 23 млрд активных на токен. Заявленный контекст — 1 млн токенов.

Moonshot AI: Kimi

В API доступны kimi-k3.1-pro и kimi-k3.1-pro-highspeed — новая версия K3 и её ускоренный вариант. Обе принимают текст и визуальный ввод, выдают текст и имеют контекст 1 048 576 токенов. max_completion_tokens по умолчанию равен 131 072, его можно задать вплоть до 1 048 576. Рассуждение включено постоянно; reasoning_effort принимает low, high и max (по умолчанию). Полные веса K3.1 Pro разработчик обещает опубликовать к 4 ноября 2026 года.

По прайс-листу Kimi, ввод/вывод K3.1 Pro стоят $2/$10, Highspeed — $4/$20 за миллион токенов. Чтение кэша у обеих версий стоит $0,20. Запись при TTL 5 минут/1 час стоит соответственно $2/$4 у обычной версии и $4/$8 у Highspeed. Ступеней по длине контекста нет.

Для Kimi K3 опубликованы код и описание, а также полные веса мультимодальной MoE-модели. В ней 2,8 трлн параметров всего и 104 млрд активных, контекст составляет 1 048 576 токенов. Веса распространяются по собственной лицензии Kimi K3 от Moonshot AI.

Без собственного кластера модель можно использовать через API с ID kimi-k3. Доступ открывается после пополнения счёта не менее чем на $1. Параметр max_completion_tokens по умолчанию равен 131 072; его можно увеличить до 1 048 576. Рассуждение включено постоянно, effort принимает low, high или max (по умолчанию).

Накопленная сумма пополнений определяет уровень аккаунта и ограничения на число одновременных запросов, RPM, TPM и TPD; открытие K3 за $1 не означает, что лимитов достаточно для production. Тарификация K3 не имеет ступеней по длине контекста.

Цены API. По прайс-листу Moonshot AI, K3 стоит $3/$15, чтение кэша — $0,30. В том же каталоге API остаются K2.6 и ориентированные на программирование K2.7 Code. У трёх перечисленных в таблице вариантов K2 контекст 262 144 токена:

Модель	Вход/выход	Чтение кэша
kimi-k2.6	$0,95/$4	$0,16
kimi-k2.7-code	$0,95/$4	$0,19
kimi-k2.7-code-highspeed	$1,90/$8	$0,38

K2.6 принимает текст и визуальный ввод, поддерживает режимы с рассуждением и без него. Для K2.7 Code Highspeed заявлена скорость примерно 180 токенов/с, до 260 токенов/с в коротком контексте; это не SLA. Каталог сообщает, что сопровождение и поддержка kimi-k2.5 и серии moonshot-v1, включая auto и vision-preview, были прекращены 31 августа 2026 года; старых ID kimi-k2 из раздела Deprecated Models — 25 мая, kimi-latest — 28 января. С 31 октября 2026 года K2.6, K2.7 Code и K2.7 Code Highspeed будут недоступны новым зарегистрированным пользователям. Для существующих пользователей доступ пока сохраняется; всю серию K2 планируют снять к концу декабря 2026 года.

У K3 запись в кэш учитывается отдельной категорией: $3 при TTL 5 минут или $6 при TTL 1 час за миллион токенов. Каждый входной токен оплачивается по одной категории: обычный ввод, чтение из кэша или запись в кэш. По умолчанию применяется TTL 5 минут; попадание в кэш продлевает срок хранения без новой платы за запись. Все приведённые цены Kimi не включают применимые налоги.

В Chat Completions и Responses подходящие префиксы без prompt_cache_options автоматически записываются с TTL 5m; TTL задаётся через prompt_cache_options.ttl, а mode поддерживает только implicit. В Anthropic Messages запись управляется верхнеуровневым cache_control: без него запрос только читает кэш 5m, но не записывает новый; маркер внутри сообщений игнорируется. TTL закрепляется первой записью и меняется после её полного истечения. Неполный блок, который нельзя записать, оплачивается как обычный ввод.

Особенности запросов K3 и K3.1 Pro. При продолжении диалога и работе с инструментами нужно передавать полное сообщение assistant, включая поля помимо content. Параметры temperature=1.0, top_p=0.95, n=1, presence_penalty=0 и frequency_penalty=0 фиксированы, их следует опускать в запросе. Изображения передаются в base64 или через ms://<file-id>; общедоступные URL не поддерживаются.

Полное сообщение assistant нужно сохранять без изменений. Видео передаётся через Files API с purpose="video" и ms://<file-id>; для визуального ввода content должен быть массивом объектов, а не сериализованной строкой.

Документирован response_format с json_schema и strict: true: схема ограничивает итоговый message.content, но не reasoning_content. На первом шаге tool_choice="required" требует хотя бы одного вызова инструмента.

Официальный веб-поиск сейчас обновляется; документация пока не рекомендует его для production. Это ограничение не относится ко всем пользовательским инструментам.

Xiaomi MiMo V2.6

27 сентября под MIT опубликованы обновлённые веса MiMo-V2.6-Pro-MOPD (1,02 трлн параметров основной сети, 42 млрд активных) и MiMo-V2.6-Flash-MOPD (309 млрд и 15 млрд соответственно). Обе модели принимают текст, изображения, видео и звук, генерируют текст и поддерживают контекст до 1 млн токенов.

Эти MOPD-обновления продолжают прежние Pro-RL и Flash-RL. Разработчик сообщает об улучшении качества выполнения длительных агентных задач и сокращении повторяющихся вызовов инструментов. В серии есть и компактная MiMo-V2.6-Distill-Qwen-9B: она построена на Qwen3.5-9B, дообучена на данных MiMo и предложена как отправная точка для исследований агентного обучения с подкреплением.

Alibaba: Qwen

Флагманская API-модель Qwen3.8 Max нативно мультимодальна и по умолчанию поддерживает контекст 1 млн токенов. В её основе лежит MoE-модель с 2,4 трлн параметров всего и 95 млрд активных.

Опубликованный чекпойнт Qwen3.8-2.4T-A95B имеет другие возможности: принимает только текст, постоянно использует рассуждение и рассчитан на нативный контекст 262 тыс. токенов, расширяемый до 1 010 000. Веса доступны по собственной лицензии Qwen3.8 Max с дополнительными условиями для крупных сервисов.

У мультимодальной Qwen3.8-Flash-Next, веса которой опубликованы 26 августа, другая архитектура — ранний вариант Qwen4. В основной модели 125 млрд параметров, ещё 51 млрд приходится на N-граммные эмбеддинги и 4 млрд на MTP; на токен активны 6 млрд. Нативный контекст 262 144 токена расширяется до 1 млн.

Qwen Community License 1.0 требует особого внимания при коммерческом использовании Flash-Next. Если компания или её аффилированные лица предоставляют модели как сервис либо выпускают самостоятельные ИИ-продукты для программирования или офисной работы, нужна отдельная лицензия Qwen независимо от выручки. Исключение — внутреннее использование без предоставления модели, её возможностей или результатов третьим лицам.

На QwenCloud модель Qwen3.8-Flash с контекстом 1 млн заявлена по цене $0,15/$0,47; в карточке приведён вызов API с ID qwen3.8-flash и базовым URL https://maas.qwencloudapi.com/compatible-mode/v1 для OpenAI-совместимого интерфейса. Это не подтверждает доступность во всех странах и для всех учётных записей. Модель принимает текст, изображения и видео, выдаёт текст; аудиовход в перечне этой карточки не указан. Максимальный ввод обозначен как 991K, ввод с рассуждением — 983K, максимальный вывод — 131K.

Карточка QwenCloud заявляет совместимость с протоколами OpenAI и Anthropic, перечисляет Chat Completions и Responses; встроенные инструменты зависят от интерфейса. Указаны Function Calling, Structured Outputs, Batch, веб-поиск и кэширование контекста. Попадание в неявный кэш стоит $0,016, создание явного — $0,20, чтение явного — $0,016 за миллион токенов; TTL и отдельную стоимость хранения следует уточнять отдельно.

В Alibaba Cloud Model Studio доступна qwen3.8-omni-flash: текст, изображения, звук и видео на входе, текст на выходе, контекст 1 млн и предел вывода 131 072 токена. Её карточка описывает доступ через API Model Studio, отдельный чекпойнт с весами не указан. Документированы Chat Completions и Responses. Рассуждение включено по умолчанию, интенсивность настраивается; максимальный ввод составляет 991 808 токенов без рассуждения и 983 616 с ним.

Model Studio перечисляет регионы Пекин, Сингапур, Гонконг, Токио, Франкфурт и Вирджиния; требуется API-ключ выбранного региона. Поддерживаются пользовательские инструменты, веб-поиск, автоматический неявный кэш и Session caching в Responses. Для аудио заявлена поддержка 113 языков и диалектов и многоканального пространственного звука, включаемого через use_multichannel в Chat Completions. Цены и протокольные возможности QwenCloud нельзя автоматически переносить на эту модель Model Studio.

Для более простого развёртывания есть Qwen3.6-27B и более новая Qwen3.8-27B: мультимодальные dense-модели на 27 млрд параметров под Apache 2.0. Их нативный контекст составляет 262 144 токена.

Mistral

Medium 3.5 имеет статус GA. Это мультимодальная dense-модель со 128 млрд параметров и контекстом 256 тыс. токенов. В API её ID — mistral-medium-3-5, тариф — $1,50/$7,50.

Разработчик позиционирует Medium 3.5 как модель для агентных задач и программирования; в карточке указана дата 28 апреля 2026 года. В API структурированный вывод и функции доступны через /v1/chat/completions и /v1/conversations, пакетная обработка — через /v1/batch, встроенные инструменты — через /v1/agents и /v1/conversations. Эти сервисные возможности нельзя автоматически переносить на самостоятельное размещение весов.

Веса Medium 3.5 распространяются под Modified MIT. Если консолидированная мировая выручка компании за предыдущий месяц превысила $20 млн, для использования весов нужна отдельная лицензия.

Mistral Small 4 имеет лицензию Apache 2.0. По карточке модели, в ней 119 млрд параметров всего и 6,5 млрд активных; контекст — 256 тыс. токенов. Она принимает текст и изображения, поддерживает настраиваемое рассуждение. В API mistral-small-2603 стоит $0,15/$0,60.

Более крупная Mistral Large 3 тоже распространяется под Apache 2.0: 675 млрд параметров всего, 41 млрд активных и контекст 256 тыс. токенов.

Cohere Command A+

Мультимодальная Command A+ имеет 218 млрд параметров всего и 25 млрд активных на токен. Веса опубликованы под Apache 2.0. Модель поддерживает рассуждение, вызов инструментов и работу на 48 языках.

Она принимает текст и изображения, генерирует текст. В официальной карточке дата выпуска (Release Date) — 20 мая 2026 года, срез знаний — 1 апреля 2025 года. Для указанных в карточке весов W4A4 заявлено размещение на одном B200 или двух H100; эту оценку нельзя переносить на другие форматы и произвольные условия по длине контекста и нагрузке.

В Cohere API она доступна как command-a-plus-05-2026: контекст 128 тыс., предел вывода 64 тыс. токенов. Публичный API можно бесплатно использовать в пределах rate limits для trial- и production-ключей. Для production-развёртывания Cohere предлагает Model Vault. Карточка перечисляет Chat V2, Chat Completions и Chat V1; можно включать и отключать thinking и управлять бюджетом рассуждения по отдельному руководству.

Условия обработки данных зависят от размещения, платформы и коммерческого соглашения. В большинстве клиентских развёртываний в собственной среде Cohere не имеет доступа к входным данным. В средах Cohere обезличенные данные использования могут применяться в ограниченных случаях, разрешённых настройками и условиями сервиса; нельзя считать, что любые запросы автоматически исключаются из обучения. Эти условия следует отличать от Apache 2.0 на опубликованные веса.

StepFun

Step 5 Preview — мультимодальная MoE-модель с 600 млрд параметров всего и 27 млрд активных на токен. В API используется ID step-5-preview: текст, изображения и видео на входе, текст на выходе, контекст 1 млн и вывод до 64 тыс. токенов. Доступны вызов инструментов, JSON Schema и уровни рассуждения low, medium, high. Цена — $1/$2,70, кэшированный ввод — $0,10; выходные токены включают рассуждение.

Опубликованы веса FP8, BF16 и NVFP4. В карточке весов указаны контекст и вывод до 1 млн токенов; предел вывода API указан отдельно и составляет 64 тыс. Веса распространяются под StepFun Model License 1.0 с дополнительными условиями коммерческого использования и атрибуции.

Step 3.7 Flash — мультимодальная MoE-модель под Apache 2.0. В ней около 198 млрд параметров, включая визуальный энкодер; около 11 млрд активны на токен. Модель принимает текст и изображения, поддерживает контекст 256 тыс. токенов, вызов инструментов и три уровня рассуждения. Опубликованы также веса FP8, NVFP4 и GGUF.

Tencent

Текстовая Hy4 preview рассчитана на программирование, рассуждение и работу с документами. Это MoE-модель с 770 млрд параметров в основной сети и 49 млрд активных на токен; дополнительный слой MTP содержит ещё 10 млрд. Контекст — 1 млн токенов. Выпуск имеет статус preview, веса в обычном формате и FP8 доступны под Apache 2.0.

NVIDIA Nemotron

В семействе Nemotron для рассуждения и агентных задач представлены, в частности, Super 120B A12B и Ultra 550B A55B. Обе поддерживают контекст до 1 млн токенов, но лицензии различаются: NVIDIA Nemotron Open Model License у Super и OpenMDW 1.1 у Ultra.

Ultra принимает и выдаёт текст; в карточке указана версия v1.0 со статусом GA. Доступность на Build.NVIDIA.com и публикация весов на Hugging Face датированы 4 июня 2026 года. Для Ultra NVFP4 минимальная рекомендуемая одноузловая конфигурация включает четыре B200 для весов и KV-кэша с запасом, но не даёт универсальной гарантии миллионного контекста при любой нагрузке. Русского языка в заявленном списке Ultra нет; это не означает невозможности работы на русском, но требует отдельной оценки.

В стартовых командах vLLM и SGLang установлено ограничение в 262 144 токена. Для 1 048 576 токенов vLLM требует VLLM_ALLOW_LONG_MAX_MODEL_LEN=1 и --max-model-len 1048576, SGLang — SGLANG_ALLOW_OVERWRITE_LONGER_CONTEXT_LEN=1 и --context-length 1048576.

Рассуждение переключается через chat_template_kwargs.enable_thinking; сокращённый режим использует enable_thinking=True и medium_effort=True.

Для работы с инструментами нужен соответствующий парсер; при совместном разборе рассуждения и инструментов в SGLang инструкция требует также force_nonempty_content: true при включённом рассуждении. Это параметры описанных серверных конфигураций, а не универсальный интерфейс всех провайдеров. Пробный сервис NVIDIA регулируется отдельными NVIDIA API Trial Terms of Service, а не только лицензией весов.

Для быстрых повторяющихся агентных задач и локального инференса предназначена Nemotron 3.5 Lightning: 30 млрд параметров всего, 3 млрд активных и контекст до 1 млн токенов. Её лицензия — OpenMDW 1.1; доступна квантизация NVFP4.

Nemotron 3 Nano Omni 30B A3B подходит для локальных мультимодальных ассистентов: она принимает текст, изображения, видео и звук, выдаёт текст и поддерживает рассуждение и вызов инструментов. Заявленный язык — английский. В модели около 31 млрд параметров всего и 3 млрд активных, контекст до 256 тыс. токенов. Веса BF16, FP8 и NVFP4 доступны по лицензии NVIDIA Open Model Agreement.

15 октября опубликованы веса мультимодальных Nemotron 3.5 Super VL и Nemotron 3.5 Bolt. У Super VL 120 млрд параметров всего, 12 млрд активных и контекст до 1 млн токенов; у Bolt — 74 млрд всего, 9 млрд активных и контекст до 256 тыс. Обе принимают текст, изображения и видео и генерируют текст; лицензия — OpenMDW 1.1.

Эталонные BF16-веса предназначены прежде всего для настройки, post-training и оценки с полной точностью. У Super VL есть также NVFP4, а у Bolt — компактный вариант 24GB с двухбитной квантизацией IQ2. Размер упакованной модели не определяет доступный контекст при любой нагрузке: окно и параллелизм зависят от памяти и настроек размещения.

23 октября опубликована Nemotron 3.5 Bolt E4B — компактная текстовая модель, дообученная NVIDIA на основе Gemma 4 E4B-it. В ней 8 млрд параметров всего и около 4 млрд эффективных; контекст — до 65 536 токенов. Поддерживаются вызов инструментов и переключение рассуждения через enable_thinking. Доступны BF16-веса и GGUF-квантизация Q4_K_M под OpenMDW 1.1.

16 октября опубликована Nemotron Labs Dory1.0-4B — универсальная текстовая модель рассуждения с 4 млрд параметров и контекстом до 262 144 токенов. Вычислительные затраты можно менять числом повторных проходов через общий блок слоёв, используя один и тот же checkpoint. Веса BF16, MXFP8, NVFP4 и GGUF доступны под OpenMDW 1.1; заявленный язык — английский. Для запуска через vLLM пока нужна сборка из PR, указанного в карточке модели.

Meta^* Muse Spark Open и Muse Glimmer

15 октября Meta опубликовала Muse Spark Open — мультимодальную MoE-модель с 816 млрд параметров всего, 42 млрд активных на токен и контекстом 1 048 576 токенов. Она принимает текст, изображения, видео и звук, выдаёт текст. Веса BF16 и NVFP4 доступны для самостоятельного размещения по собственной Muse Model License. В Meta Model API эта версия не обслуживается; возможны собственный сервер и API стороннего хостинга.

Веса Spark Open занимают около 1,65 ТБ в BF16 и 537 ГБ в NVFP4; дополнительно нужна память под KV-кэш и среду исполнения. Лицензия требует атрибуции и соблюдения Usage Policy. Поставщикам Model as a Service с совокупной выручкой группы свыше $20 млн за 12 месяцев нужно отдельное соглашение с Meta.

Мультимодальная Muse Glimmer на 30 млрд параметров предназначена для локальных агентов, программирования и вызова инструментов. Веса опубликованы под Apache 2.0, контекст по умолчанию составляет 128 тыс. токенов. Разработчик также предоставляет варианты с разрядностью около четырёх бит для систем с 24 или 32 ГБ памяти.

Это dense-модель, дистиллированная из Muse Spark: текст и изображения на входе, текст на выходе. Более длинный контекст заявлен, но его максимум на этой странице не указан. Muse Glimmer не обслуживается через Meta Model API; модель запускают самостоятельно. Документация перечисляет vLLM, SGLang, llama.cpp и ExecuTorch.

inclusionAI Ling

Ling-3.1-flash — универсальная модель с опубликованными весами под MIT: гибридная линейная MoE-архитектура, 560 млрд параметров всего, 25 млрд активных на токен и контекст 1 млн токенов. Она поддерживает рассуждение и вызов инструментов, рассчитана на программирование, поиск и длительные многошаговые задачи.

Ling-3.0-flash — универсальная MoE-модель под MIT: 124 млрд параметров всего, 5,1 млрд активных и контекст 256 тыс. токенов.

Для локального запуска с ограниченной памятью интересна Ling-3.0-tiny под той же лицензией. У неё 7,9 млрд параметров всего и 1,3 млрд активных; контекст 131 072 токена расширяется до 262 144 с YaRN. Tiny поддерживает вызов инструментов и переключение между быстрым ответом и рассуждением через enable_thinking. Доступны веса BF16, FP8 и INT4.

IBM Granite

В обеих линейках, Granite 4.1 и 4.2, есть текстовые dense-модели с 3, 8 и 30 млрд параметров под Apache 2.0. Более новая Granite 4.2 опубликована 25 августа. Она рассчитана на локальные задачи рассуждения, программирования и работу агентов. Контекст — 131 072 токена; для 8B также заявлено расширение до 512 тыс.

У Granite 4.2 рассуждение включается и отключается через enable_thinking, а для короткого рассуждения предусмотрен low_effort=True. Предыдущая линейка Granite 4.1 вышла 29 апреля 2026 года и работает без длинных цепочек рассуждений. Она остаётся вариантом для систем, где важны задержка и предсказуемый расход токенов.

Например, Granite 4.1 8B поддерживает контекст 131 072 токена, вызов инструментов, RAG, извлечение и преобразование текста.

Ai2 Olmo 3.1

Для исследований и воспроизводимого дообучения интересны Olmo-3.1-32B-Instruct и Olmo-3.1-32B-Think. Это текстовые модели на 32 млрд параметров под Apache 2.0, прежде всего для английского языка. Think обучена длинному рассуждению; контекст в конфигурациях весов обеих моделей — 65 536 токенов.

Помимо весов Ai2 публикует данные, код предобучения и post-training, а также промежуточные чекпойнты. Эти материалы позволяют изучать процесс обучения модели.

4. Российские модели и платформы

GigaChat

В официальном API Сбера представлены GigaChat 2 Lite, Pro и Max с ID GigaChat-2, GigaChat-2-Pro и GigaChat-2-Max, а также GigaChat 3 Ultra с ID GigaChat-3-Ultra и контекстом 128 тыс. токенов. По состоянию на 1 октября 3 Ultra доступна только физическим лицам в режиме Freemium; платный доступ для физических лиц и организаций ещё не открыт.

Ultra стала доступна во Freemium API 15 июля 2026 года; документированы POST /v1/chat/completions и POST /v2/chat/completions с model: "GigaChat-3-Ultra". Freemium предоставляет на 12 месяцев отдельные квоты: 250 млн токенов для Lite, 40 млн для Pro, 25 млн для Max и 50 млн для Ultra. Сумма 365 млн не является единым свободно расходуемым пулом; генерация выполняется в одном потоке. Увеличение общей квоты зафиксировано в changelog 22 июля 2026 года.

С 6 октября GigaChat 3 Ultra в POST /v2/chat/completions поддерживает параллельные вызовы нескольких функций.

С июля общий endpoint GigaChat API — https://api.giga.chat. Прежний https://gigachat.devices.sberbank.ru/ пока обслуживает существующие подключения, но для новых уже не используется и будет отключён; срок не указан. В changelog переход датирован 16 июля, в справке REST API — 17 июля.

Открытые веса. Под MIT опубликованы GigaChat 3.5 432B-A28B и GigaChat 3.5 Reasoning. У Reasoning 432 млрд параметров всего, 28 млрд активных и контекст 262 144 токена. Это первая GigaChat с полноценным режимом рассуждения, обученная с помощью online RL; она поддерживает вызов инструментов и структурированный вывод.

Разработчик отмечает улучшения Reasoning в математике, программировании и следовании инструкциям относительно GigaChat 3.5 Ultra Instruct. В официальной коллекции доступны FP8, BF16 и GGUF. Публикация весов не подтверждает доступность GigaChat 3.5 Reasoning в публичном API Сбера.

В то же время GigaChat3.5-432B-A28B-Reasoning уже размещена в Foundation Models Cloud.ru: API этой платформы предоставляет контекст 262 тыс. токенов по цене 96,22/288,60 руб. за миллион входных/выходных токенов. Сообщение Cloud.ru от 23 сентября 2026 года подтверждает, что коммерческий API-доступ уже был открыт к моменту публикации; это не дата публикации весов или открытия публичного API Сбера.

Покупка доступа. С 1 сентября новые платные клиенты — физические лица, а также пользователи, раньше не покупавшие пакеты, направляются на Cloud.ru. Это описано в тарифах для физлиц. Продажа пакетов у ООО «СалютДевайсы» завершилась 30 сентября 2026 года; пакеты, приобретённые с 1 сентября, действуют один месяц. Эти изменения касаются канала оплаты; об отключении Freemium API не объявлено.

Yandex Cloud

В каталоге Яндекса доступны Alice AI LLM, Alice AI LLM Flash, YandexGPT Lite 5 и YandexGPT Pro 5.1. Model Gallery также включает модели других разработчиков. В таблице приведены контекст и синхронные тарифы с НДС за миллион токенов:

Модель	Контекст, токены	Вход/выход, руб.	Чтение кэша, руб.
Alice AI LLM Flash	65 536	100/200	25
Alice AI LLM	131 072	500/1200	500
YandexGPT Pro 5.1	32 768	800/800	800
YandexGPT Lite 5 (deprecated)	32 768	200/200	200

API YandexGPT Lite 5 (gpt://<folder_id>/yandexgpt-5-lite) отключат 15 ноября 2026 года.

У Alice AI LLM кэшированный ввод стоит столько же, сколько обычный. URI моделей имеет вид gpt://<folder_id>/<model>. Идентификаторы: aliceai-llm, aliceai-llm-flash, yandexgpt-5-lite и yandexgpt-5.1. Кэширование включается автоматически, когда применимо, но не гарантировано и не распространяется на выходные токены.

Для токенов встроенных инструментов выделена отдельная категория: миллион таких токенов с НДС стоит 25 руб. у Alice AI LLM Flash, 130 руб. у Alice AI LLM и 200 руб. у YandexGPT Pro 5.1 и Lite. К ней относятся все некэшированные токены истории при передаче результата встроенного инструмента, но не результаты пользовательских функций. Само обращение к инструменту оплачивается отдельно.

Alias yandexgpt/latest указывает на Pro 5 (yandexgpt-5-pro), а yandexgpt/rc — на Pro 5.1. У Pro 5 контекст 32 768 токенов, синхронный вход/выход и чтение кэша стоят 1200/1200 и 1200 руб. за миллион с НДС. Для воспроизводимости лучше использовать явные URI. У Alice AI LLM Flash доступны только OpenAI-совместимые API; остальные перечисленные модели также поддерживают API генерации текста.

При значительных изменениях модель получает новый URI. После окончания поддержки старый URI возвращает 400 Bad Request, автоматического переключения нет; явный URI нужен вместе с планом миграции.

Открытые веса Яндекса. 21 сентября 2026 года опубликована AliceAI-Foundation-80B-A3B-Base под Apache 2.0. Это обученная с нуля базовая MoE-модель с 80 млрд параметров всего, 3 млрд активных и контекстом до 262 144 токенов. Версия прошла предобучение и предназначена для дальнейшего дообучения; в каталоге API Yandex AI Studio она не указана.

14 сентября Яндекс опубликовал веса Alice AI Search Pretrain. Модель AliceAI-T5-35B-A0.6B также рассчитана на дообучение: это базовая encoder–decoder MoE-модель с контекстом 128 тыс. токенов под Apache 2.0.

Для компактного русскоязычного локального ассистента доступна YandexGPT-5-Lite-8B-instruct: 8 млрд параметров, контекст 32 тыс. токенов и собственная лицензия YandexGPT-5-Lite-8B. Одноимённые семейства в API и опубликованные чекпойнты нужно рассматривать отдельно: наличие весов не подтверждает их обслуживание в Yandex AI Studio.

T-Tech

T-lite-it-2.1 построена на Qwen3-8B, более крупная T-pro-it-2.1 — на Qwen3-32B. Обе русскоязычные модели имеют нативный контекст 32 768 токенов, поддерживают вызов инструментов и распространяются под Apache 2.0. Они работают только без режима рассуждения.

MWS

MWS GPT представляет собой платформу с каталогом развёртываний и OpenAI-совместимым API. При выборе модели на этой платформе нужно смотреть на конкретную размещённую модель.

В model передаётся идентификатор развёртывания, не просто название семейства. Базовый URL привязан к проекту: https://gpt.mwsapis.ru/projects/<имя проекта>/openai/v1, чат вызывается через /chat/completions. Нужен ключ сервисного аккаунта с ролью gpt.inferencer. Отдельные чат-модели принимают изображения; это проверяется для конкретного развёртывания.

Российский хостинг и расчёты в рублях могут упростить закупку и локализацию данных. Для работы с персональными, банковскими, медицинскими и другими чувствительными данными этого недостаточно: соответствие 152-ФЗ и отраслевым требованиям требует проверки договора, места обработки, сроков хранения журналов, использования запросов для улучшения моделей, мер защиты и собственной модели угроз. Качество русского языка также стоит оценивать на корпусе и в жанрах конкретной системы.

5. Где запускать модель

Выбор модели и выбор поставщика связаны: доступные функции, цена и условия обработки данных зависят от того, где она размещена. Основных вариантов четыре.

API разработчика. Обычно он первым получает новые функции, точные идентификаторы и официальную поддержку. Это естественный вариант, если нужны уникальные инструменты модели или прямой договор с её владельцем. При этом система зависит от географии, лимитов, правил перевода в статус deprecated и сроков отключения моделей у одного поставщика.

Шлюз-агрегатор. Он объединяет провайдеров одним интерфейсом, помогает распределять нагрузку и организовывать резервные маршруты. Например, OpenRouter предоставляет OpenAI-совместимые endpoints и настройки выбора провайдера.

provider.order задаёт предпочтение, но при включённых резервных маршрутах запрос может уйти к провайдеру вне списка. Для ограничения используются provider.only либо provider.order с allow_fallbacks=false. Для конкретного региона или варианта endpoint нужен полный provider slug: базовый slug обычно охватывает несколько endpoints.

provider.require_parameters по умолчанию равен false, и провайдер может проигнорировать неподдерживаемые параметры. Для обязательных параметров, включая структурированный вывод, следует задать require_parameters=true и проверить endpoint. Для tools, response_format и verbosity есть дополнительные предпочтения маршрутизации, но если ни один провайдер модели не поддерживает параметр, при стандартных настройках он всё равно может быть проигнорирован.

По документации OpenRouter, наценки на сам инференс нет. При покупке кредитов картой комиссия Standard составляет 5,5% (минимум $0,80), а Business — 8%. При использовании собственных ключей провайдеров (BYOK) действует комиссия 5% стоимости модели сверх бесплатного лимита. На Standard и Business лимит составляет $25 тыс. инференса в месяц по обычным ценам, на Enterprise определяется индивидуально.

Сам OpenRouter по умолчанию не журналирует содержимое запросов, но передаёт их выбранному провайдеру. Условия хранения данных и их использования для обучения у выбранного провайдера нужно проверить и закрепить настройками маршрутизации.

provider.data_collection="deny" фильтрует провайдеров, а provider.zdr=true ограничивает инференс набором endpoints с политикой Zero Data Retention. Эти параметры не отменяют ограничений учётной записи; ZDR-фильтр сам по себе не охватывает серверную часть инструментов. На Business и Enterprise доступна региональная маршрутизация через https://eu.openrouter.ai и https://us.openrouter.ai; в таблице Standard её нет. Договорные SLA указаны только для Enterprise.

Специализированный хостинг открытых моделей. Он берёт на себя управление ускорителями и позволяет подобрать соотношение цены, задержки и пропускной способности. Каталог часто уже, чем у агрегатора. Так, GroqCloud разделяет production- и preview-модели и публикует их скорость, лимиты, цены и сведения о deprecation.

Лимиты хостинга могут отличаться от возможностей весов. Например, qwen/qwen3.8-27b на Groq имеет статус preview, контекст 131 072 и предел вывода 16 384 токена при цене $0,80/$4. Поэтому сравнение провайдеров требует проверки конкретного endpoint. Groq прямо указывает, что preview предназначен только для оценки, не для production; такие модели могут отключить с коротким уведомлением.

На Groq openai/gpt-oss-120b и openai/gpt-oss-20b имеют статус Production и стоят $0,15/$0,60 и $0,075/$0,30 соответственно. У обеих контекст 131 072 и предел вывода 65 536 токенов. Таблица Developer Plan указывает для них 250 тыс. TPM и 1000 RPM; это ограничения обслуживания, а не архитектуры весов.

Самостоятельное размещение. Оно даёт максимальный контроль над весами, журналами и обновлениями. В стоимость входят ускорители и резервирование, энергопотребление, оркестрация, наблюдаемость, обновления движка, проверка квантизации и работа инженеров. Практика локального запуска разобрана в главе 14 учебника.

Для сравнения вариантов полезно собрать условия в один список:

• точный model ID и ревизия весов, максимальный ввод и вывод, поддерживаемые модальности, инструменты и квантизация;
• задержки p50 и p95, лимиты запросов и токенов, кэширование;
• регион обработки, хранение запросов и ответов, SLA;
• порядок уведомления о смене цены, deprecation и отключении модели.

OpenAI-совместимый API упрощает перенос клиента, но совместимость формата ещё не означает совпадения всех параметров, вызова инструментов и семантики ответов. Эти возможности следует проверить у выбранного провайдера.

6. Практический выбор

Сложное рассуждение и агентное программирование. В начальный список кандидатов могут войти GPT-6 Astra и GPT-6.1 Sol, Claude Fable 5.1, Opus 5.5 и Sonnet 5.5, Gemini 4 Argon, 3.8 Flash и 3.1 Pro Preview, Grok 4.7, MiniMax M3.1 Flash и M3, MiMo V2.6 Pro, Muse Wonder и Muse Spark 1.3, Mistral Large 4, Medium 3.5, Step 5 Preview, Ling-3.1-flash и подходящие открытые модели. Порядок в этом списке не отражает качество: итог зависит от задачи и условий запуска.

Здесь имеет смысл сравнивать стоимость успешно завершённой работы с учётом повторов и ручных исправлений. Более дорогой флагман может окупиться, если заметно сокращает ошибки. Для preview-моделей отдельно оценивают риск изменения или отключения перед использованием в production.

Массовая классификация, извлечение и преобразование текста. Для начала подходят недорогие GPT-6 Luna, Claude Haiku 5.5, Gemini Flash, DeepSeek V4.1 Flash, MiMo V2.6 Flash, Mistral Small 4 и компактные Qwen. Меньшая модель часто обеспечивает нужное прикладное качество быстрее и дешевле. Переход к крупной оправдан, когда измеримый выигрыш покрывает разницу в цене и задержке.

Изолированный контур. Выбор начинается с доступной инфраструктуры, требуемой длины контекста и качества. Qwen3.6-27B, Qwen3.8-27B, Gemma 4 26B A4B, gpt-oss-20b, Nemotron 3.5 Lightning, Muse Glimmer, T-lite-it-2.1 и компактные Granite 4.2 проще для первого развёртывания, чем DeepSeek V4.1 Flash, V4 Pro, Kimi K3, Qwen3.8-2.4T-A95B или Muse Spark Open.

У Qwen3.8-Flash-Next, GLM-5.3-Flash и MiniMax M3 небольшая активная часть снижает объём вычислений на токен, но требования к памяти определяются полным объёмом весов. В регулируемом облачном контуре выбор дополнительно ограничен допустимыми договорами и регионами обработки.

Длинные документы. Помимо размера окна важны доля найденных фактов в разных частях документа, устойчивость к противоречащим фрагментам, задержка и полная стоимость. Иногда RAG с меньшим окном оказывается надёжнее и дешевле загрузки всего архива в один запрос.

Прикладную оценку удобно строить в следующем порядке:

1. Подобрать реальные задачи, включая редкие и опасные случаи.
2. Определить критерии правильности и неприемлемые ошибки.
3. Задать одинаковые инструменты, промпты и бюджеты рассуждения либо обосновать различия.
4. Измерить качество, задержки p50 и p95 и стоимость успешно решённого случая с учётом повторов, кэша и вызовов инструментов.
5. Проверить структурированный вывод, инструменты, длинный контекст и целевые языки.
6. Проверить безопасность, лицензию, обработку данных и доступность по договору.
7. Повторять оценку при смене модели, snapshot, провайдера или параметров инференса.

Методика таких тестов приведена в главе об оценке качества, а переносимый слой работы с моделями описан в главе об API. Model ID, адрес API и параметры удобно хранить в конфигурации, чтобы обновлять их по мере изменения сервисов. Ограничение расходов и заранее проверенный резервный маршрут помогают поддерживать работу системы при таких изменениях.

^* Компания Meta Platforms Inc. признана экстремистской организацией, а её деятельность запрещена на территории Российской Федерации.