Новые разделы!
ИИ, квантовые вычисления и много других интересных тем

Заходите в ЦИТадель!
Век живи — век учись

Opera One получил WebAI API для локального ИИ в браузере

Opera открыла ранний доступ к WebAI — механизму, через который сайты и расширения могут обращаться к ИИ-моделям на устройстве пользователя. Разработчикам доступны API для генерации текста, классификации данных и семантического анализа без собственного облачного ИИ-бэкенда.

Opera начала тестировать WebAI — реализацию предлагаемого веб-стандарта, позволяющего сайтам и расширениям использовать ИИ-модели, запущенные локально через браузер. В Opera One функция включается вручную: модель загружается только после активации, а доступ сайтов к ней регулируется отдельными разрешениями.

Интерфейс управления локальными моделями WebAI в Opera

WebAI предоставляет разработчикам Prompt, Decision и Semantic Embeddings API. С их помощью приложения могут генерировать текст, классифицировать информацию и определять смысловые связи между фрагментами данных. Локальное выполнение устраняет необходимость в API-ключе, собственном сервере для инференса и оплате каждого запроса; обрабатываемое содержимое при этом не требуется отправлять облачному провайдеру.

Реализация не привязана к одной модели и поддерживает совместимые модели с открытыми весами. Предварительная версия работает на 64-разрядных компьютерах с Windows и процессорами Intel или AMD, а также на Mac с Apple Silicon. Производительность зависит от аппаратных возможностей устройства; Linux, компьютеры Mac с Intel и Windows on Arm пока не поддерживаются.

Источник: blogs.opera.com

Связь с редакцией