ChatGPT начнет помечать тексты невидимыми водяными знакам

OpenAI начнет маркировать тексты, сгенерированные ChatGPT и Codex, невидимыми водяными знаками для пользователей из Евросоюза. Об этом сообщила пресс-служба компании. Внедрение запланировано на ближайшие недели.

Маркировка вводится в соответствии с требованиями Закона ЕС об искусственном интеллекте, который предусматривает возможность машинного распознавания текста, созданного генеративными системами.

Технология получила название textGrain. Она изменяет статистические характеристики выбора слов моделью в процессе генерации, формируя незаметный для читателя сигнал. Специальный инструмент анализирует текст и определяет наличие такого сигнала. При этом водяной знак не добавляет скрытых символов, дополнительных пробелов или необычных знаков препинания.

В OpenAI отметили ограничения технологии. Надежность определения водяного знака зависит от объема текста. Редактирование, перевод или существенная переработка могут ослабить сигнал. Для пользователей API OpenAI функция уже доступна для ряда моделей: ее можно включить по желанию, по умолчанию она отключена.

Ранее аналогичную технологию внедрила Anthropic. В августе компания добавила невидимые водяные знаки в тексты, созданные новыми моделями Claude. По заявлению компании, маркировка не влияет на смысл и читаемость материалов и может сохраняться после копирования и некоторых изменений.

Руководитель проектов по развитию AI-продуктов компании Directum Илья Петухов в комментарии Радио РБК отметил, что существенная переработка текста, созданного нейросетью и содержащего водяной знак, может ослабить или полностью убрать маркировку. По его словам, технология позволяет определить использование нейросети на конкретном участке текста, но не доказывает, что весь материал был создан ИИ.