OpenAI mette la filigrana al testo, per default solo dove la legge lo impone

L'annuncio è del 5 ottobre 2026 e la cornice è l'articolo 50 dell'AI Act, il Regolamento UE 2024/1689, che dal 2 agosto 2026 chiede ai fornitori di IA generativa di marcare i contenuti sintetici in un formato leggibile dalle macchine. OpenAI ha scritto sul suo Developer Community che inserirà una filigrana invisibile nel testo prodotto da ChatGPT e Codex, in arrivo 'nelle prossime settimane' per gli utenti idonei di tutti i piani — e solo nell'Unione europea. Sull'API la scelta è opposta: i clienti di tutto il mondo possono attivarla da subito per alcuni modelli, ma la funzione è disattivata per default e, nelle parole dell'azienda, 'non diventerà un'impostazione predefinita globale al lancio'. Finora le filigrane avevano riguardato soprattutto immagini e video; sul testo il problema è più ostile, perché riscrivere o tradurre basta a indebolire il segnale, e in certi casi a cancellarlo.

La tecnica si chiama textGrain e non aggiunge caratteri nascosti, spazi invisibili o punteggiatura strana: altera in modo statistico la scelta dei token mentre il modello genera, secondo il centro assistenza e il rapporto tecnico. Quel rapporto, datato 5 ottobre, porta nove firme — cinque di OpenAI (Arzav Jain, Florent Joly, Mike Lam, Qingquan Song e Weijie Su come autore di riferimento) e quattro accademici della University of Pennsylvania (Xiang Li, Qi Long) e di Yale (Garrett Wen, Xiaohong Chen). Il metodo applica il trasporto ottimale a blocchi del vocabolario e introduce un 'budget' che limita quanta casualità del campionamento si può sacrificare per ottenere il segnale: una contropartita dichiarata, non un effetto collaterale scoperto dopo. Per verificare un testo servono soltanto il testo e la chiave segreta, ma il rapporto annota anche che il tasso di falsi positivi teorico vale sotto ipotesi idealizzate e che una chiave fissa in produzione richiede verifiche empiriche di calibrazione (sezione 3.2).

I numeri raccontano quanto il segnale sia fragile, e vanno letti con una premessa: non ho potuto verificarli sul post originale di OpenAI, ma solo tramite le testate che li riportano. Su passaggi di 400 token la filigrana si rileva in circa il 92% dei casi secondo i dati OpenAI ripresi da 9to5Mac e ActuIA; sostituendo con sinonimi il 10% delle parole si scende al 66%, con il 25% di sostituzioni al 17%. ActuIA aggiunge che le misure usano una soglia di falsi positivi dell'1% e che su passaggi di 200 token si arriva a circa l'80%, su contenuti matematici a circa il 60%; nelle 24 lingue ufficiali UE il rilevamento va dal 42,2% del romeno al 69,0% dello spagnolo. Il dato per l'italiano non l'ho trovato. OpenAI dichiara i limiti senza girarci intorno — testi brevi, ambiti con poca libertà lessicale, traduzioni e parafrasi estese abbassano la rilevabilità — e precisa che la filigrana non identifica l'utente, non misura il contributo umano, non stabilisce la titolarità e non dice se il testo è accurato. 'The absence of a detected watermark does not prove human authorship', si legge nell'annuncio: tradotto, se la filigrana non viene rilevata questo non dimostra che il testo l'abbia scritto una persona.

Il rilevatore all'inizio andrà solo a 'ricercatori e organizzazioni esperte approvati', e le candidature sono aperte; ActuIA cita tra i primi partner Cornell, ETH Zurigo e l'istituto slovacco KInIT. L'azienda motiva la chiusura proprio con i limiti tecnici: 'These limitations contribute to our decision to provide initial detector access only to approved researchers and expert organizations.' Ha anche detto di voler rilasciare textGrain come open source, senza indicare quando. Non sappiamo quali modelli API siano compresi, né la data di attivazione in UE, né i criteri d'accesso al rilevatore; e non risultano ancora valutazioni indipendenti dell'efficacia.

Quello che mi resta è la geografia della scelta. Lo stesso testo, scritto dallo stesso modello, porterà un segnale se chi scrive è nell'Unione europea e non lo porterà altrove: la provenienza del contenuto diventa una funzione della giurisdizione, non una proprietà del contenuto. È una lettura legittima di un obbligo che vale in un territorio, e sull'API il mondo intero può attivarla volendo. Ma chi riceverà un testo senza filigrana continuerà a non sapere niente — e con un rilevamento al 42% in romeno, dato ActuIA a soglia di falsi positivi dell'1%, e un segnale che cade al 17% dopo un quarto di parole sostituite con sinonimi, anche chi ha la chiave saprà meno di quanto la parola 'filigrana' lasci sperare.

— Olya