TypeSafe AI представила модель Jev для типизированных решений вместо генерации текста

Стартап TypeSafe AI открыл ранний доступ к модели Jev, которая не пишет ответы, а выбирает варианты из заданного разработчиком набора и возвращает оценки вероятности. Такой формат рассчитан на классификацию, маршрутизацию запросов и другие автоматизированные операции, однако соответствие схеме не гарантирует правильность решения.

Стартап TypeSafe AI представил модель Jev, предназначенную для принятия узких структурированных решений внутри программ. Компанию основал Диогу Алмейда, ранее работавший в OpenAI и участвовавший в исследовании InstructGPT, которое предшествовало появлению ChatGPT.

Разработчик передаёт модели входные данные и заранее определяет вопросы и допустимые ответы. Согласно документации, Jev поддерживает выбор из списка, оценку по заданной шкале и вопросы с вероятностным ответом «да» или «нет». Результат возвращается в типизированном виде вместе с вероятностями и может непосредственно использоваться в условиях и маршрутах выполнения программы.

TypeSafe AI заявляет время ответа от 70 до 500 мс и цену $0,042 за миллион входных токенов без отдельной платы за выходные данные. Несколько независимых вопросов модель обрабатывает параллельно. Опубликованные компанией тесты производительности пока не прошли независимую проверку и используют ответы других моделей в качестве ориентира.

Jev гарантирует, что результат останется в рамках заданной схемы, но это не исключает ошибочного выбора одного из разрешённых вариантов. Модель доступна в режиме раннего доступа, поэтому её точность разработчикам предстоит проверять на собственных задачах.