OpenAI выявила операции влияния из России и Ирана, публиковавшие материалы в СМИ

OpenAI заблокировала две группы аккаунтов ChatGPT, связанные с операциями влияния российского и иранского происхождения. Российская кампания Dark Clark распространяла фейки в Латинской Америке, а иранская Bogus Bylines использовала семь вымышленных авторов и добилась публикации почти 100 статей в онлайн-изданиях.

OpenAI сообщила о блокировке двух групп аккаунтов ChatGPT, применявшихся в операциях скрытого влияния. Их организаторы использовали искусственный интеллект вместе с традиционными методами — подставными организациями и вымышленными журналистами — для распространения политических материалов.

Связанная с Россией операция Dark Clark была нацелена преимущественно на страны Латинской Америки. Ее участники использовали ChatGPT главным образом для подготовки внутренних отчетов, а также для перевода и адаптации поддельных писем, документов и сценариев аудиозаписей. Часть распространявшихся фейков вызвала проверки фактов, официальные опровержения и реакцию политиков. OpenAI присвоила кампании категорию 5 по шестибалльной шкале распространения Breakout Scale — впервые за два с половиной года публикации подобных отчетов.

Операция иранского происхождения Bogus Bylines задействовала семь вымышленных журналистских профилей. С их помощью организаторы предлагали редакциям материалы об американо-иранском конфликте, предварительно дорабатывая статьи и сопроводительные письма через ChatGPT. OpenAI обнаружила почти 100 опубликованных или перепечатанных статей примерно в дюжине онлайн-изданий; это направление кампании получило категорию 4. Сгенерированные для социальных сетей комментарии, напротив, почти не привлекли внимания.

По оценке OpenAI, искусственный интеллект прежде всего упростил масштабирование, перевод и редакционную подготовку материалов. При этом сами схемы напоминали операции влияния, существовавшие до распространения генеративного ИИ.