Новые разделы!
ИИ, квантовые вычисления и много других интересных тем

Заходите в ЦИТадель!
Век живи — век учись

Эксперимент с двумя миллионами «канареек» выявил утечки промптов в цепочке ИИ-сервисов

Исследователь HD Moore отправил через ИИ-сервисы около двух миллионов промптов с уникальными тестовыми ключами, адресами и паролями. За пять месяцев маркеры обнаружились у посторонних: данные утекали через взломанных провайдеров, реселлеров вычислений и сервисы, не соблюдавшие настройки конфиденциальности.

HD Moore, руководитель исследований компании Dragos, специализирующейся на кибербезопасности, провел эксперимент с июля по ноябрь 2026 года. В почти два миллиона запросов к ИИ-сервисам были помещены уникальные «канарейки»: рабочие ключи AWS для пустых тестовых аккаунтов, пароли SSH, DNS-имена, URL и ссылки на закрытые репозитории Git. Каждый маркер использовался только в одном промпте, что позволяло проследить источник утечки.

Промпты часто проходят через ИИ-маршрутизаторы, которые выбирают модель и поставщика по цене и другим параметрам. Каждый участник такого маршрута получает расшифрованное содержимое запроса и технически может его журналировать.

  • Dragos обнаружила признаки компрометации как минимум трех поставщиков. Некоторые приманочные ключи AWS проверяли через несколько часов после отправки, а всего с ними выполнили десятки тысяч вызовов API.
  • Отдельные продавцы на маркетплейсах ИИ-инференса получали промпты через штатные журналы запросов. После прохождения данных через таких продавцов тестовые пароли и ключи использовались для попыток доступа.
  • Некоторые сервисы не соблюдали режим Zero Data Retention, запрещающий хранение запросов. Секретные ссылки открывали через дни и месяцы, а один маркер спустя 24 дня появился во внутреннем чате компании.

Карточка инцидента с использованием приманочного ключа AWS

Названия трех скомпрометированных поставщиков в публикации не раскрыты. Для чувствительных данных исследователи рекомендуют локально запускать модели либо обращаться напрямую к крупному поставщику, вручную выбирать обработчиков запросов и не передавать реальные учетные данные в промптах.

Трассировка маршрута промпта через нескольких ИИ-посредников

Источник: dragos.com

Связь с редакцией