OpenAI добавит невидимую маркировку в тексты ChatGPT и Codex

OpenAI начнет внедрять в ЕС невидимые машиночитаемые водяные знаки textGrain в ответы ChatGPT и Codex. Клиенты API по всему миру смогут включать маркировку для отдельных моделей добровольно, однако детектор пока получат только одобренные исследователи и профильные организации.

OpenAI представила технологию маркировки текста textGrain, добавляющую статистический сигнал в выбор слов моделью. В течение ближайших недель невидимые водяные знаки появятся в поддерживаемых текстовых ответах ChatGPT и Codex для пользователей всех тарифов в Европейском союзе.

Компания внедряет маркировку в связи с требованиями европейского Акта об искусственном интеллекте. За пределами ЕС она не станет стандартной настройкой: клиенты API смогут добровольно включать ее для отдельных моделей.

OpenAI предупреждает, что технология не гарантирует надежного распознавания. Короткие тексты, перевод и редактирование ослабляют сигнал, возможны как ложные срабатывания, так и пропуски. Поэтому доступ к детектору первоначально предоставят только одобренным исследователям и экспертным организациям, а не широкой публике.

Водяной знак не идентифицирует пользователя, не подтверждает достоверность текста и не позволяет определить объем человеческого участия. OpenAI также планирует открыть исходный код технологии.