OpenAI ставит водяной знак на текст — по умолчанию только там, где этого требует закон

Объявление сделано 5 октября 2026 года, а рамка — статья 50 AI Act, Регламента ЕС 2024/1689, которая с 2 августа 2026 года обязывает поставщиков генеративного ИИ маркировать синтетический контент в машиночитаемом формате. OpenAI написала в своём Developer Community, что будет встраивать невидимый водяной знак в текст, который создают ChatGPT и Codex: он появится «в ближайшие недели» у подходящих пользователей всех тарифов — и только в Европейском союзе. В API выбор обратный: клиенты по всему миру могут уже сейчас включить его для некоторых моделей, но по умолчанию функция выключена и, по словам компании, «не станет глобальной настройкой по умолчанию при запуске». До сих пор водяные знаки касались в основном изображений и видео; с текстом ситуация враждебнее: чтобы ослабить сигнал, достаточно переписать или перевести текст, а иногда этого хватает, чтобы его стереть.

Технология называется textGrain и не добавляет скрытых символов, невидимых пробелов или странной пунктуации: по данным справочного центра и технического отчёта, она статистически смещает выбор токенов в процессе генерации. Под отчётом от 5 октября стоят девять подписей — пять сотрудников OpenAI (Arzav Jain, Florent Joly, Mike Lam, Qingquan Song и Weijie Su как ответственный автор) и четверо учёных из Пенсильванского университета (Xiang Li, Qi Long) и Йеля (Garrett Wen, Xiaohong Chen). Метод применяет оптимальный транспорт к блокам словаря и вводит «бюджет», ограничивающий, какой долей случайности сэмплирования можно пожертвовать ради сигнала: это заявленный компромисс, а не побочный эффект, обнаруженный задним числом. Для проверки текста нужны только сам текст и секретный ключ, но в отчёте также отмечено, что теоретическая доля ложных срабатываний верна при идеализированных допущениях, а фиксированный ключ в продакшене требует эмпирической проверки калибровки (раздел 3.2).

Цифры показывают, насколько хрупок сигнал, и читать их нужно с оговоркой: я не смогла проверить их в исходном посте OpenAI, только через издания, которые их приводят. На фрагментах в 400 токенов водяной знак обнаруживается примерно в 92% случаев, согласно данным OpenAI, которые цитируют 9to5Mac и ActuIA; если заменить синонимами 10% слов, показатель падает до 66%, при 25% замен — до 17%. ActuIA добавляет, что измерения используют порог ложных срабатываний 1%, что на фрагментах в 200 токенов получается около 80%, а на математическом контенте — около 60%; на 24 официальных языках ЕС обнаружение колеблется от 42,2% для румынского до 69,0% для испанского. Данных для итальянского я не нашла. OpenAI говорит об ограничениях прямо — короткие тексты, области с малой лексической свободой, переводы и обширные перефразирования снижают обнаруживаемость — и уточняет, что водяной знак не идентифицирует пользователя, не измеряет вклад человека, не устанавливает права на текст и не говорит, точен ли он. «The absence of a detected watermark does not prove human authorship», — сказано в объявлении: если водяной знак не обнаружен, это не доказывает, что текст написал человек.

Поначалу детектор получат только «одобренные исследователи и экспертные организации», заявки уже принимаются; ActuIA называет среди первых партнёров Корнелл, ETH Цюрих и словацкий институт KInIT. Закрытость компания объясняет именно техническими ограничениями: «These limitations contribute to our decision to provide initial detector access only to approved researchers and expert organizations.» Она также заявила, что хочет выпустить textGrain в открытом исходном коде, не уточнив когда. Мы не знаем, какие модели API охвачены, когда функция заработает в ЕС и по каким критериям даётся доступ к детектору; независимых оценок эффективности пока нет.

Меня не отпускает география этого решения. Один и тот же текст, написанный одной и той же моделью, будет нести сигнал, если автор находится в Евросоюзе, и не будет — в любом другом месте: происхождение контента становится функцией юрисдикции, а не свойством самого контента. Это законное прочтение обязательства, действующего на определённой территории, и в API весь мир может включить его при желании. Но тот, кто получит текст без водяного знака, по-прежнему ничего не узнает — а при обнаружении на уровне 42% для румынского (данные ActuIA при пороге ложных срабатываний 1%) и сигнале, падающем до 17%, когда четверть слов заменена синонимами, даже обладатель ключа узнает меньше, чем позволяет надеяться слово «водяной знак».

— Olya