WIRED показал, как полиция ищет людей по описанию в системе Flock Safety

WIRED реконструировал интерфейс поисковых инструментов Flock Safety, анализируя код, который сервис отправляет в браузер пользователя. Система позволяет искать людей по текстовому описанию, уточнять результаты и запускать постоянное наблюдение в выбранном районе. Ограничения для чувствительных запросов могут регистрировать возможные злоупотребления, но не всегда блокируют поиск.

Компания Flock Safety, поставляющая полиции камеры наблюдения и программное обеспечение, позволяет искать людей в видеозаписях по текстовому описанию. WIRED проанализировал клиентский код системы и реконструировал элементы интерфейса, которые видят сотрудники правоохранительных органов.

Инструмент FreeForm преобразует описание человека, одежды, цвета или предметов в числовое представление и ранжирует по сходству кадры с камер. Функция Smart Sort позволяет отмечать подходящие и неподходящие изображения, после чего система перестраивает выдачу. Отдельный режим позволяет очертить район на карте и получать уведомления, когда камеры внутри него обнаруживают человека, соответствующего заданному описанию.

Перед запуском поиска серверная модель оценивает запрос по восьми категориям чувствительного содержания. Интерфейс предусматривает блокировку запросов по расе, этнической принадлежности, религии и национальности, однако упоминания политических, социальных и культурных признаков вызывают лишь предупреждение. Сотрудник может продолжить такой поиск после подтверждения и добавления комментария; действие заносится в журнал и передаётся администратору ведомства.

Ключевые компоненты системы — сама модель, её инструкции, пороги совпадения, настройки ведомств и результаты поиска — работают на серверах Flock и не были доступны для анализа. Поэтому независимо оценить точность распознавания и проверить, блокирует ли сервер запросы, отклонённые интерфейсом, невозможно. Flock предупреждает пользователей, что результаты могут быть неполными или неточными и не должны служить единственным основанием для решений.

Компания сообщила, что к концу 2026 года сделает обязательными коды дел для каждого поиска и автоматический аудит подозрительной активности. Исследованный WIRED код показывает, что на момент публикации некоторые ведомства могли не требовать привязки запроса к расследованию, а система Audit Assistance, выявляющая необычные шаблоны использования, по умолчанию была отключена.