Новые шаги Microsoft по борьбе с неправомерными интимными изображениями

Компания распространила использование хешей платформы StopNCII.org на потребительские сервисы Teams Free, OneDrive и Xbox — ранее технология применялась в поиске Bing. Шаг приурочен к вступлению в силу в США закона Take It Down Act, устанавливающего федеральные меры против распространения интимных изображений, опубликованных без согласия (NCII), включая сгенерированные ИИ.

Microsoft объявила о расширении инструментов борьбы с распространением интимных изображений, опубликованных без согласия (non-consensual intimate imagery, NCII), включая контент, созданный с помощью ИИ. О мерах сообщила Дженни Лэй-Флёрри (Jenny Lay-Flurrie), вице-президент группы Trusted Technology Group в Microsoft. Изменения приурочены к вступлению в силу в США закона Take It Down Act, который вводит федеральную ответственность за распространение такого контента.

Ключевое технологическое новшество — расширение применения хешей StopNCII.org. Это платформа, позволяющая пострадавшим создавать на собственном устройстве цифровой «отпечаток» (хеш) изображения; сам файл устройство не покидает. Партнёры StopNCII.org используют эти хеши для поиска и удаления совпадающего контента на своих площадках. Для генерации хешей применяется отдельная версия PhotoDNA, переданная Microsoft проекту StopNCII.org около двух лет назад.

Ранее Microsoft тестировала использование валидированных хешей StopNCII.org в поиске Bing с сентября 2024 года. Теперь компания распространяет этот механизм на потребительские сервисы — Teams Free, OneDrive и Xbox. Microsoft обещает ускоренное удаление подобного контента, автоматизацию в подходящих случаях, сохранение ручной проверки для жалоб пользователей и возможность обжалования решений. Политика NCII применяется одинаково к реальным и синтетическим изображениям.

Параллельно обновлена глобальная форма подачи жалоб на NCII-контент с явными вариантами для реальных и сгенерированных ИИ изображений; жалобу можно отправить через пункт «Report A Concern» в продуктах Microsoft. Помимо законодательной инициативы в США, компания упоминает в качестве ориентиров работу Евросоюза по ограничению «nudification»-приложений и недавние требования британского регулятора Ofcom в рамках Online Safety Act, направленные против незаконного NCII-контента.

Microsoft также сообщила о совместной с британской НКО Childnet разработке образовательных материалов о рисках использования ИИ подростками для создания интимных изображений; материалы локализованы для Сингапура, Южной Кореи и Японии.