OpenAI tatoue le texte, par défaut seulement là où la loi l'impose

L'annonce date du 5 octobre 2026 et le cadre est l'article 50 de l'AI Act, le règlement UE 2024/1689, qui depuis le 2 août 2026 impose aux fournisseurs d'IA générative de marquer les contenus synthétiques dans un format lisible par machine. OpenAI a écrit sur son Developer Community qu'elle intégrera un filigrane invisible au texte produit par ChatGPT et Codex, prévu « dans les prochaines semaines » pour les utilisateurs éligibles de toutes les formules — et uniquement dans l'Union européenne. Sur l'API, c'est l'inverse : les clients du monde entier peuvent l'activer dès maintenant pour certains modèles, mais la fonction est désactivée par défaut et, selon les mots de l'entreprise, « ne deviendra pas un paramètre par défaut mondial au lancement ». Jusqu'ici, les filigranes concernaient surtout les images et les vidéos ; le texte est un terrain plus hostile, car il suffit de réécrire ou de traduire pour affaiblir le signal, et parfois pour l'effacer.

La technique s'appelle textGrain et n'ajoute ni caractères cachés, ni espaces invisibles, ni ponctuation bizarre : d'après le centre d'aide et le rapport technique, elle modifie statistiquement le choix des tokens pendant que le modèle génère. Ce rapport, daté du 5 octobre, porte neuf signatures — cinq d'OpenAI (Arzav Jain, Florent Joly, Mike Lam, Qingquan Song et Weijie Su comme auteur correspondant) et quatre universitaires de la University of Pennsylvania (Xiang Li, Qi Long) et de Yale (Garrett Wen, Xiaohong Chen). La méthode applique le transport optimal à des blocs du vocabulaire et introduit un « budget » qui limite la part d'aléatoire de l'échantillonnage que l'on peut sacrifier pour obtenir le signal : un compromis assumé, pas un effet secondaire découvert après coup. Pour vérifier un texte, il suffit du texte et de la clé secrète, mais le rapport note aussi que le taux théorique de faux positifs vaut sous des hypothèses idéalisées et qu'une clé fixe en production exige des vérifications empiriques de calibration (section 3.2).

Les chiffres disent à quel point le signal est fragile, et il faut les lire avec une réserve : je n'ai pas pu les vérifier sur le billet original d'OpenAI, seulement via les médias qui les rapportent. Sur des passages de 400 tokens, le filigrane est détecté dans environ 92 % des cas selon les données d'OpenAI reprises par 9to5Mac et ActuIA ; en remplaçant 10 % des mots par des synonymes, on tombe à 66 %, et à 17 % avec 25 % de remplacements. ActuIA ajoute que les mesures utilisent un seuil de faux positifs de 1 %, que l'on atteint environ 80 % sur des passages de 200 tokens et environ 60 % sur des contenus mathématiques ; dans les 24 langues officielles de l'UE, la détection va de 42,2 % pour le roumain à 69,0 % pour l'espagnol. Je n'ai pas trouvé le chiffre pour l'italien. OpenAI expose ses limites sans détour — textes courts, domaines où le vocabulaire laisse peu de liberté, traductions et paraphrases étendues réduisent la détectabilité — et précise que le filigrane n'identifie pas l'utilisateur, ne mesure pas la contribution humaine, n'établit pas la titularité et ne dit pas si le texte est exact. « The absence of a detected watermark does not prove human authorship », lit-on dans l'annonce : autrement dit, ne pas détecter de filigrane ne prouve pas qu'une personne a écrit le texte.

Le détecteur ne sera d'abord accessible qu'à des « chercheurs et organisations expertes approuvés », et les candidatures sont ouvertes ; ActuIA cite parmi les premiers partenaires Cornell, l'ETH Zurich et l'institut slovaque KInIT. L'entreprise justifie cette fermeture précisément par les limites techniques : « These limitations contribute to our decision to provide initial detector access only to approved researchers and expert organizations. » Elle a aussi dit vouloir publier textGrain en open source, sans préciser quand. On ne sait pas quels modèles de l'API sont concernés, ni la date d'activation dans l'UE, ni les critères d'accès au détecteur ; et aucune évaluation indépendante de l'efficacité n'existe encore.

Ce qui me reste, c'est la géographie du choix. Le même texte, écrit par le même modèle, portera un signal si la personne qui écrit se trouve dans l'Union européenne et n'en portera pas ailleurs : la provenance du contenu devient une fonction de la juridiction, pas une propriété du contenu. C'est une lecture légitime d'une obligation qui vaut sur un territoire, et sur l'API le monde entier peut l'activer s'il le souhaite. Mais qui recevra un texte sans filigrane continuera de ne rien savoir — et avec une détection à 42 % en roumain (chiffre d'ActuIA, au seuil de 1 % de faux positifs) et un signal qui tombe à 17 % quand un quart des mots est remplacé par des synonymes, même ceux qui détiennent la clé en sauront moins que le mot « filigrane » ne le laisse espérer.

— Olya