Riconoscere con certezza l’origine di un testo creato con l’intelligenza artificiale è sempre più difficile. Una risposta generata da un chatbot può essere modificata, accorciata, adattata al contesto e mescolata a contenuti scritti da una persona. Per rendere più trasparente il contributo dell’AI, Anthropic ha illustrato il sistema di watermarking testuale destinato ai contenuti generati da Claude.
Non si tratta di un simbolo visibile, di una scritta aggiunta in fondo al testo o di un carattere nascosto tra le parole. Il watermark è invece un segnale statistico, costruito durante la generazione e rilevabile con strumenti adeguati. Per chi legge, secondo quanto spiegato dall’azienda, il risultato non cambia: il testo dovrebbe mantenere lo stesso significato, la stessa fluidità e lo stesso livello di qualità.
Il watermark di Claude non aggiunge segni invisibili
L’idea di filigrana digitale fa pensare spesso a un elemento inserito materialmente in un file, come accade con alcune immagini. Nel caso dei testi di Claude, però, il principio è diverso. Non vengono aggiunti caratteri nascosti, né nuove parole o informazioni leggibili soltanto da un programma.
Il sistema interviene nel modo in cui il modello sceglie la parola successiva. Un modello linguistico genera un testo un termine alla volta e, in molti passaggi, può optare per alternative dal significato molto simile. In una frase su una giornata fredda, per esempio, possono risultare naturali sia “nuvolosa” sia “grigia”, a seconda del contesto.
Sono proprio queste scelte a basso impatto a permettere la creazione del watermark. Il modello continua a produrre frasi sensate, ma la casualità che orienta alcune decisioni linguistiche segue un criterio particolare. Ripetuto molte volte lungo un testo, questo schema può fornire un indizio sulla possibile presenza di Claude nella sua elaborazione.
Come viene rilevata la firma nei contenuti AI
Il watermark non può essere individuato semplicemente copiando il testo in un normale editor o osservandolo con attenzione. Per la lettura umana, una risposta con watermark dovrebbe apparire indistinguibile da una senza filigrana. La verifica richiede invece una chiave in grado di controllare se la sequenza delle parole è compatibile con il metodo utilizzato durante la generazione.
Il risultato non equivale a una prova assoluta di paternità. Il sistema può indicare quanto sia probabile che Claude abbia contribuito alla realizzazione di quel contenuto, ma non stabilisce che il testo sia stato scritto interamente dall’AI. Non è inoltre pensato per dire se un passaggio sia opera di una persona o di un altro modello linguistico.
Anthropic ha anticipato l’arrivo di un’API dedicata al rilevamento. L’obiettivo è offrire uno strumento che possa aiutare a valutare l’origine di un testo senza trasformare la filigrana in un’etichetta visibile o invasiva per chi utilizza Claude.
Qualità, costi e privacy non dovrebbero cambiare
Una delle domande più immediate riguarda l’effetto del watermark sulla scrittura. Se il modello deve seguire uno schema, potrebbe produrre testi meno naturali? Secondo Anthropic, il meccanismo sfrutta soltanto alternative che il modello avrebbe comunque considerato appropriate. Non dovrebbe quindi spingerlo verso termini strani, poco precisi o inadatti al contesto.
L’azienda afferma che il sistema non comporta conseguenze pratiche sulla qualità, sulla creatività o sulla leggibilità delle risposte. Non sono previsti token aggiuntivi, perciò il watermark non dovrebbe comportare un costo ulteriore né rallentare in modo significativo il funzionamento del modello.
Anche l’aspetto della privacy viene messo al centro. Il segnale non contiene dati riconducibili a una persona, a un’organizzazione o a una conversazione specifica. Serve soltanto a valutare il possibile coinvolgimento di Claude nella generazione o nell’elaborazione del contenuto.
I limiti della filigrana nei testi generati
Come ogni strumento di rilevamento, anche il watermark testuale ha alcuni limiti. Funziona meglio su passaggi abbastanza lunghi, dove il modello ha compiuto un numero elevato di scelte linguistiche. In un estratto breve, invece, potrebbero non esserci abbastanza elementi per arrivare a una valutazione affidabile.
Il segnale risulta più debole anche nei contenuti dove esiste una sola risposta corretta. Nei testi fortemente fattuali, nelle formule, nel codice e nelle correzioni grammaticali, il margine per scegliere parole equivalenti può essere molto ridotto. Se Claude interviene soltanto su qualche virgola o su pochi errori, la quantità di contributo rilevabile potrebbe essere minima.
Una revisione profonda può inoltre rendere più difficile individuare il watermark. Piccole modifiche potrebbero non eliminarlo del tutto, mentre una riscrittura completa, parola per parola, può cancellare il modello statistico originario. È un limite coerente con lo scopo della tecnologia: non certificare in modo definitivo l’autore di un testo, ma offrire un elemento in più per capire se l’AI ha avuto un ruolo nella sua creazione.
