OpenAI ставить водяний знак на текст — за замовчуванням лише там, де цього вимагає закон

Оголошення зроблено 5 жовтня 2026 року, а рамка — стаття 50 AI Act, Регламенту ЄС 2024/1689, яка з 2 серпня 2026 року вимагає від постачальників генеративного ШІ маркувати синтетичний контент у машиночитному форматі. OpenAI написала у своєму Developer Community, що вбудовуватиме невидимий водяний знак у текст, який створюють ChatGPT і Codex: він з'явиться «найближчими тижнями» у відповідних користувачів усіх тарифів — і лише в Європейському Союзі. В API вибір протилежний: клієнти з усього світу можуть уже зараз увімкнути його для деяких моделей, але за замовчуванням функцію вимкнено і, за словами компанії, вона «не стане глобальним налаштуванням за замовчуванням під час запуску». Досі водяні знаки стосувалися переважно зображень і відео; з текстом місцевість ворожіша, бо щоб послабити сигнал, досить переписати чи перекласти текст, а часом цього вистачає, щоб його стерти.

Технологія називається textGrain і не додає прихованих символів, невидимих пробілів чи дивної пунктуації: за даними довідкового центру й технічного звіту, вона статистично зміщує вибір токенів під час генерації. Під звітом від 5 жовтня стоять дев'ять підписів — п'ятеро з OpenAI (Arzav Jain, Florent Joly, Mike Lam, Qingquan Song і Weijie Su як автор для листування) та четверо науковців Пенсильванського університету (Xiang Li, Qi Long) і Єльського університету (Garrett Wen, Xiaohong Chen). Метод застосовує оптимальний транспорт до блоків словника і вводить «бюджет», що обмежує, якою часткою випадковості семплювання можна пожертвувати заради сигналу: це заявлений компроміс, а не побічний ефект, виявлений згодом. Щоб перевірити текст, потрібні лише сам текст і секретний ключ, але звіт також зазначає, що теоретична частка хибних спрацювань справджується за ідеалізованих припущень, а фіксований ключ у продакшені потребує емпіричної перевірки калібрування (розділ 3.2).

Цифри показують, наскільки крихкий сигнал, і читати їх слід із застереженням: я не змогла перевірити їх в оригінальному дописі OpenAI, лише через видання, які їх наводять. На фрагментах у 400 токенів водяний знак виявляється приблизно у 92% випадків, згідно з даними OpenAI, які цитують 9to5Mac та ActuIA; якщо замінити синонімами 10% слів, показник падає до 66%, а за 25% замін — до 17%. ActuIA додає, що вимірювання використовують поріг хибних спрацювань 1%, що на фрагментах у 200 токенів виходить близько 80%, а на математичному контенті — близько 60%; у 24 офіційних мовах ЄС виявлення коливається від 42,2% для румунської до 69,0% для іспанської. Даних для італійської я не знайшла. OpenAI говорить про обмеження прямо — короткі тексти, галузі з малою лексичною свободою, переклади й розлогі перефразування знижують виявлюваність — і уточнює, що водяний знак не ідентифікує користувача, не вимірює внесок людини, не встановлює прав на текст і не каже, чи він точний. «The absence of a detected watermark does not prove human authorship», — ідеться в оголошенні: якщо водяний знак не виявлено, це не доводить, що текст написала людина.

Спершу детектор отримають лише «схвалені дослідники та експертні організації», заявки вже приймають; ActuIA називає серед перших партнерів Корнелл, ETH Цюрих і словацький інститут KInIT. Закритість компанія пояснює саме технічними обмеженнями: «These limitations contribute to our decision to provide initial detector access only to approved researchers and expert organizations.» Вона також заявила, що хоче випустити textGrain з відкритим кодом, не уточнивши коли. Ми не знаємо, які моделі API охоплено, коли функція запрацює в ЄС і за якими критеріями надаватимуть доступ до детектора; незалежних оцінок ефективності поки немає.

Мене не полишає географія цього рішення. Той самий текст, написаний тією самою моделлю, нестиме сигнал, якщо автор перебуває в Європейському Союзі, і не нестиме деінде: походження контенту стає функцією юрисдикції, а не властивістю самого контенту. Це законне прочитання обов'язку, що діє на певній території, і в API весь світ може ввімкнути його за бажання. Але той, хто отримає текст без водяного знака, і далі нічого не знатиме — а з виявленням на рівні 42% для румунської (дані ActuIA за порогу хибних спрацювань 1%) і сигналом, що падає до 17%, коли чверть слів замінено синонімами, навіть власник ключа знатиме менше, ніж дає сподіватися слово «водяний знак».

— Olya