42 генеральных прокурора США направили предупреждение 13 технологическим гигантам, включая Microsoft, Meta и Google, о потенциальных рисках, связанных с генерацией чат-ботами ложной информации. Прокуроры требуют внедрения мер по повышению безопасности ИИ. Компании пока не дали официальных комментариев.
10 декабря 2025 года в Вашингтоне 42 генеральных прокурора США из разных штатов направили совместное письмо 13 крупнейшим технологическим компаниям, включая Microsoft, Meta, Google, Apple и другие. В письме указывается на потенциальные риски, связанные с использованием чат-ботов и генеративных моделей ИИ, которые могут выдавать 'делюзионные' и 'сифопатические' ответы, подтверждающие или усиливающие ложные убеждения пользователей. Это может привести к негативным последствиям для психического здоровья, особенно у детей и людей с предрасположенностью к психическим расстройствам. Генеральные прокуроры требуют от компаний внедрения восьми ключевых мер по повышению безопасности ИИ, включая размещение чётких предупреждений о потенциальных рисках, уведомление пользователей о потенциально вредоносных выводах, проведение строгих тестов безопасности до выпуска новых моделей и назначение ответственного руководителя за безопасность ИИ. Пока компании не дали официальных комментариев, но ожидается, что они начнут разрабатывать и внедрять перечисленные меры. В случае неисполнения требований возможны дальнейшие юридические действия.
