OpenAI начнет добавлять невидимые водяные знаки в тексты, созданные ChatGPT и Codex в странах Евросоюза. Технологию внедрят в течение ближайших недель для пользователей всех тарифов, сообщила компания на своем сайте.
OpenAI начнет добавлять невидимые водяные знаки в тексты ChatGPT
Нововведение затронет только пользователей в странах ЕС.
Водяной знак не будет отображаться в тексте в виде символа или специальной пометки. Разработанная OpenAI технология textGrain должна влиять на выбор слов моделью, создавая «невидимый статистический сигнал», который способен распознать специальный детектор.
При этом редактирование текста может значительно осложнить работу детектору. В ходе испытаний замена 10% слов синонимами снизила вероятность обнаружения водяного знака с 92 до 66%, а замена четверти слов — до 17%. Короткие тексты и ответы ИИ, связанные с математикой и формулами, также распознаются хуже.
В OpenAI уточнили, что водяной знак не содержит данных о пользователе, его аккаунте, запросах или переписке.
Внедрение водяных знаков в тексты пользователей на территории Евросоюза объяснили в компании законом ЕС об искусственном интеллекте. Согласно ему, текст, видео и аудио, сгенерированные нейросетями, должны иметь специальную маркировку, позволяющую определить, что контент был создан или изменен с помощью ИИ.
На первом этапе доступ к детектору получат только одобренные компанией исследователи и экспертные организации. Пользователи ИИ по всему миру уже могут самостоятельно включить водяные знаки для своих моделей. По умолчанию эта функция отключена, а распространять ее на всех пользователей за пределами Евросоюза OpenAI пока не планирует.
Загружаем