Anthropic marca tutto quello che Claude scrive: il segno resta anche se copi il testo

Da agosto i testi che Claude produce contengono un marchio invisibile. Non è una scritta in sovrimpressione e non è un dato nascosto nel file: è un segno statistico dentro le parole che il modello sceglie. Anthropic lo applica in tutto il mondo, anche se l’obbligo che lo ha prodotto è europeo, e l’11 agosto ha annunciato la cosa senza spiegare come funzionasse. La spiegazione tecnica è arrivata dopo.

Come funziona, senza gergo

Quando un modello scrive, a ogni passo deve scegliere la parola successiva fra molte alternative equivalenti. Quella scelta contiene un margine di casualità: è il motivo per cui la stessa domanda posta due volte non dà mai la stessa risposta identica.

Il marchio interviene proprio lì. Invece di pescare da una casualità qualunque, il sistema usa una chiave segreta e le parole già scritte per decidere quale alternativa prendere. Le parole restano casuali per chi legge, ma diventano verificabili per chi ha la chiave: si può controllare se la sequenza è coerente con le scelte che Claude avrebbe fatto usando quella chiave. Il metodo è l’adattamento di una tecnica che Google DeepMind ha pubblicato nel 2024.

Da qui tre conseguenze pratiche. Il marchio viaggia con il testo: se lo copi e lo incolli altrove, resta. Non c’è nessun carattere invisibile e nessun token in più, quindi non si trova ispezionando il file. E serve una quantità di testo sufficiente perché il segnale emerga, perché su tre righe la statistica non dice niente.

Cosa prova un rilevamento e cosa no

Questa è la parte che conta per chi lavora. Secondo quello che scrive Anthropic, un rilevamento positivo dice una cosa sola: è probabile che Claude sia stato coinvolto nella scrittura o nella modifica di quel contenuto.

Non dice, e su questo l’azienda è esplicita:

• se il testo è stato scritto da una persona o dal modello;
• se a scriverlo è stata un’altra IA;
• la differenza fra “Claude ha scritto questo” e “Claude ha corretto pesantemente questo”.

E non contiene niente su di te: nessun riferimento all’utente, all’organizzazione o alla conversazione. Sul fronte della rimozione, una correzione leggera probabilmente non lo cancella; una riscrittura totale sì, ma a quel punto, osserva la stessa Anthropic, è discutibile che il testo si possa ancora chiamare generato da un’IA.

Un dettaglio da tenere presente: l’API che permette di verificare un testo non c’è ancora. Oggi l’unico soggetto in grado di rilevare quel marchio è chi possiede la chiave.

Perché un obbligo europeo vale in Texas

Il marchio nasce dall’articolo 50 del regolamento europeo sull’intelligenza artificiale, che chiede a chi fornisce un sistema generativo di marcare i risultati in un formato leggibile dalla macchina. È lo stesso articolo di cui abbiamo scritto parlando delle tre norme che si applicano a un contenuto manipolato: lì l’obbligo tecnico sul fornitore era la metà astratta della faccenda. Questa è la metà concreta.

A luglio Anthropic ha firmato, con circa altri centonovanta soggetti, il codice di condotta europeo sulla trasparenza dei contenuti generati. I modelli usciti dopo il 2 agosto sono marcati da subito, quelli precedenti lo saranno entro dicembre.

La scelta di applicarlo al mondo intero ha una spiegazione dichiarata e prosaica: l’azienda non ha ancora un modo affidabile di limitare la marcatura a una regione. Vale la pena registrarlo, perché è il secondo caso in un mese in cui una regola europea diventa il comportamento predefinito per tutti.

L’obiezione di John Gruber

Anthropic sostiene che il marchio non ha nessun effetto su contenuto, creatività e leggibilità, e porta a sostegno le proprie prove interne più la misura di Google DeepMind, che non ha trovato differenze statisticamente significative nel gradimento fra testi marcati e non marcati.

John Gruber non ci sta, e la sua obiezione è di principio più che di misura: se chiedo a uno strumento di scrivere, mi aspetto che scelga le parole migliori che sa, non che ne scelga altre per lasciare un’impronta. La domanda che pone è come si concili l’orientare le scelte lessicali con l’affermazione che niente cambia in qualità e leggibilità.

È un giudizio, non un fatto, ed è la ragione per cui lo attribuiamo per nome. Ha però un merito che resta anche per chi non lo condivide: nessuno, fuori da Anthropic, può misurare quel “nessun effetto”, perché la chiave e il metodo di rilevamento sono suoi.

Cosa portarsi a casa

Se scrivete con l’aiuto di un modello, la cosa da capire è che questo marchio non risponde alla domanda che tutti gli faranno. Gli si chiederà “chi ha scritto questo testo”, e lui sa dire soltanto “Claude è passato da qui”. Un vostro testo, vostro nella sostanza, fatto rileggere e sistemare da Claude, risulterà marcato. Sarà vero, e non dirà niente sulla paternità.

Quindi conviene decidere adesso, prima che qualcuno lo chieda, come volete dichiarare l’uso che fate dell’IA nei vostri contenuti. Finora era una domanda senza strumenti: chi voleva sorvolare poteva sorvolare. Lo strumento per porla sta arrivando, e arriva con una precisione ambigua: abbastanza per far scattare un sospetto, non abbastanza per chiarirlo.

Una previsione

Quanto tempo passerà prima che questo tipo di watermark applicato al testo incontri una semplice e facilmente utilizzabile contromisura? Decisamente poco: probabilmente dopo poche ore dall’introduzione, saranno resi pubblici i primi strumenti di ripulitura del testo. Chi vorrà evitare di far sapere di aver utilizzato l’IA, potrà farlo.