C’è una domanda che chiunque scriva per mestiere si è trovato, almeno una volta, a porsi in questi mesi: questo articolo l’ha scritto una persona o una macchina? Fino a ieri la risposta si cercava nelle parole, nello stile, in quel senso di sospetto che nasce davanti a una pagina troppo perfetta. Da oggi la domanda comincia ad avere una risposta tecnica.
Merita attenzione, in questo senso, l’articolo pubblicato sul Corriere della Sera e scritto da Roberto Cosentino, dal titolo “Attenti a farvi scrivere tutto da ChatGPT: OpenAI introduce textGrain, filigrana invisibile per scovare i testi del chatbot”, perché riguarda la fiducia, la trasparenza e il modo in cui costruiremo d’ora in poi il rapporto tra chi scrive e chi legge.
Il comunicato è chiaro: “Anche OpenAI – come Anthropic – si adeguerà alle norme di trasparenza dell’AI Act entrate in vigore lo scorso 2 agosto”. L’azienda ha presentato textGrain, “una funzione che renderà riconoscibile un testo scritto con l’intelligenza artificiale attraverso un watermark, ovvero una filigrana invisibile”.
Quella filigrana che sarà facilmente rilevabile
Come funziona, in concreto? “Nessun simbolo o carattere nascosto sarà inserito all’interno del testo, tuttavia ci saranno delle precise scelte lessicali previste dal modello”. La filigrana “sarà perciò facilmente rilevabile sui testi lunghi, perché prodotta da uno schema statistico che uno strumento apposito riconoscerà con maggiore facilità”.
L’aggiornamento verrà implementato “nelle prossime settimane” e sarà aggiunto sia nelle generazioni di ChatGPT sia in quelle di Codex. Nell’Unione Europea diventerà automatico, mentre fuori dall’Ue “textGrain è già attivabile tramite Api, ma opzionalmente”.
La parte più interessante dell’articolo è quella in cui si elencano i limiti, perché dice molto sulla natura di questa tecnologia. OpenAI precisa che “non è una vera e propria macchina della verità”. I test interni riportano “un tasso di falsi positivi pari all’1%”, mentre il sistema ha individuato la filigrana “nell’80% dei testi di 200 token e nel 95% nei testi da 400 token”. Più un testo è breve, meno il rilevamento risulta preciso, e la difficoltà maggiore si incontra “nei contenuti matematici”.
La questione irrisolta dei diritti
Vale la pena soffermarsi su un dato che colpisce chiunque abbia pratica di scrittura: “Basterebbe infatti sostituire il 10% delle parole con dei sinonimi per far crollare la capacità di rilevamento dal 92% al 66%”. E “quando è al 25% la percentuale delle parole sostituite, il dato precipita al 17%”.
Il senso di questi numeri sta nella natura stessa della filigrana, che è una traccia statistica e vive finché il testo resta quello che era. Una rilettura, una parafrasi, un rifacimento lessicale la indeboliscono.
Un altro passaggio merita attenzione, perché riguarda i diritti: textGrain “può suggerire che sia stato un sistema di OpenAI a redigere un determinato testo o parte di esso, senza ricondurre all’identità dell’utente che ha dato vita alla generazione”.
Infine l’accesso: “L’accesso a textGrain sarà infatti concesso inizialmente a ricercatori e organizzazioni approvate a discrezione della compagnia”. OpenAI annuncia anche l’intenzione di “rendere la tecnologia textGrain open source”.
Questo annuncio tocca una questione sociale molto importante. La domanda che sta dietro a textGrain è infatti una domanda che riguarda tutti: di chi mi posso fidare quando leggo?
Attualmente la maggior parte delle cose di cui ci fidiamo sfugge alla nostra comprensione. È quella che il sociologo Anthony Giddens chiama fiducia nei “sistemi esperti”. Il problema è che se i meccanismi di verifica si indeboliscono, crolla tutto: subentrano la diffidenza e il sospetto verso ogni cosa. Su questo terreno nasce la disinformazione, l’oggetto dei miei studi e delle mie ricerche.
I giornalisti di fronte all’AI
Per il giornalismo, tutto questo si traduce in conseguenze dirette e inevitabili. Il giornalista è da sempre colui che risponde di ciò che scrive: firma il pezzo, e la firma è un impegno. Con l’arrivo dei sistemi generativi che producono testi in pochi secondi, quella firma rischia di non garantire più nulla e la responsabilità individuale rischia di svanire.
Si può usare l’intelligenza artificiale per scrivere un pezzo oppure far fare il lavoro a un algoritmo e metterci la propria firma.
TextGrain introduce un elemento di verificabilità, che se funzionerà davvero e sarà accessibile alle redazioni, aiuterà a distinguere i contenuti generati.
Uno strumento di rilevamento integra l’etica professionale, senza sostituirla. Il giornalista ha il dovere di dire come ha lavorato: se ha usato l’AI per cercare un dato, per riassumere una documentazione, per correggere una bozza, e in che misura. La trasparenza è la condizione per cui il lettore può ancora prestare fiducia a ciò che legge.
I sinonimi che alterano la filigrana
C’è poi un aspetto che riguarda la formazione. Il rilevamento funziona sui testi lunghi e perde efficacia già con il 10% di sinonimi sostituiti: serve accompagnarlo con un’educazione all’uso consapevole degli strumenti. Come ripeto sempre durante i miei incontri nelle scuole con ragazzi e docenti, la vera competenza è saper riconoscere i propri strumenti, capire cosa fanno e sapere di cosa rispondono.
Nonostante i dubbi, possiamo guardare al futuro con fiducia. Con l’AI Act europeo, l’Europa ha imposto la massima trasparenza e le aziende globali si stanno adeguando.
In un tempo in cui le macchine sanno scrivere come noi, la cosa che conta è la volontà di rispondere di ciò che si scrive.
La tecnologia offre un aiuto concreto: una traccia, un simbolo, uno strumento in più nelle mani di chi vuole verificare. La direzione, insomma, resta umana. Sta a chi scrive scegliere se usare la macchina come un mezzo o come una maschera, e sta a chi legge pretendere la massima trasparenza. La responsabilità è una scelta che facciamo ogni giorno. L’unica capace di difendere la verità.