OpenAI начала распространять Lockdown Mode на личные аккаунты ChatGPT

OpenAI расширила доступ к Lockdown Mode — режиму ChatGPT для снижения риска утечки данных при атаках через prompt injection. Он ограничивает сетевые функции и внешние интеграции, включая живой веб-браузинг, Deep Research и Agent Mode, но не устраняет такие атаки полностью.

OpenAI сообщила, что Lockdown Mode разворачивается для личных аккаунтов ChatGPT, а также для self-serve-аккаунтов ChatGPT Business. В справочном материале компания уточняет, что режим становится доступен для подходящих аккаунтов Free, Go, Plus и Pro; если переключателя пока нет в настройках, функция может еще не быть включена для конкретного аккаунта.

Lockdown Mode — дополнительная настройка безопасности для работы с чувствительными данными. При включении режим ограничивает исходящие сетевые запросы и отключает либо сужает функции ChatGPT, которые могут взаимодействовать с вебом и внешними сервисами: живой веб-браузинг заменяется доступом к кешированному содержимому, отключаются Deep Research и Agent Mode, ограничиваются показ изображений из веба, сетевой доступ из Canvas и загрузка файлов для анализа. Генерация изображений и работа с вручную загруженными файлами остаются доступны там, где они поддерживаются.

Задача режима — уменьшить вероятность эксфильтрации данных при prompt injection, когда вредоносные инструкции могут быть спрятаны, например, на веб-странице или в загруженном файле. OpenAI подчеркивает, что Lockdown Mode не предотвращает попадание таких инструкций в контекст и не гарантирует полной защиты: они все еще могут повлиять на поведение ChatGPT или точность ответа.

Источник: openai.com

Связь с редакцией