-
14,99 €
✨ ChatGPT e filigrane testuali: come cambia la verifica dei contenuti generati dall’IA
ChatGPT avvia l’introduzione di filigrane testuali invisibili nell’Unione europea per facilitare il riconoscimento dei contenuti generati dall’intelligenza artificiale. La tecnologia textGrain presenta ancora limiti di rilevamento e sarà accompagnata da un accesso controllato agli strumenti di verifica, inizialmente riservato a ricercatori e organizzazioni specializzate.
Pubblicato da
17 Ottobre 2026
textgrain
OpenAI avvia un nuovo percorso per rendere più riconoscibili i testi prodotti dall’intelligenza artificiale. L’iniziativa risponde ai requisiti della legge europea sull’IA e punta a migliorare la trasparenza sulla provenienza dei contenuti. Il progetto prevede l’introduzione di filigrane testuali invisibili e l’accesso controllato a uno strumento per rilevarle.
La tecnologia, tuttavia, presenta ancora limiti significativi. Per questo motivo, OpenAI ha scelto un approccio graduale, distinguendo tra le possibilità offerte dal sistema e le conclusioni che si possono trarre dai risultati. Una filigrana può fornire un indizio sulla provenienza di un testo, ma non dimostra da sola chi lo abbia scritto o quanto abbia contribuito una persona.
Come funziona la tecnologia textGrain
Il sistema sviluppato da OpenAI si chiama textGrain. La tecnologia inserisce un segnale statistico invisibile nelle scelte lessicali del modello. Un apposito rilevatore cerca poi questo segnale per valutare se un brano contiene una filigrana associata ai sistemi dell’azienda.
Secondo le valutazioni condotte da OpenAI, textGrain ha raggiunto risultati pari o superiori a quelli degli altri approcci esaminati, compreso SynthID per il testo. Queste prestazioni, però, non garantiscono la stessa affidabilità in tutte le situazioni reali.
La lunghezza del testo e la libertà nella scelta delle parole incidono sul risultato. I contenuti brevi, così come quelli che richiedono un lessico più vincolato, risultano più difficili da analizzare.
In una valutazione con un tasso obiettivo di falsi positivi dell’1%, il rilevatore ha individuato la filigrana in circa l’80% dei brani da 200 token e nel 95% di quelli da 400 token, considerando contenuti come quelli di psicologia. Per i testi di matematica, invece, il tasso di rilevamento è risultato sensibilmente inferiore.
Anche le modifiche possono compromettere l’efficacia del sistema. Nei brani da 400 token, la sostituzione del 10% delle parole con sinonimi ha ridotto il rilevamento dal 92% al 66%. Con una sostituzione del 25%, il valore è sceso al 17%.
Questi dati mostrano che una filigrana testuale non garantisce un’identificazione certa, soprattutto quando il testo subisce interventi successivi alla generazione.
Cosa può rivelare una filigrana e quali sono i suoi limiti
Il rilevamento può indicare che un sistema OpenAI ha generato o elaborato parte di un testo. Non permette, invece, di stabilire con precisione il contributo umano alla sua realizzazione.
Una filigrana non chiarisce chi possieda i diritti sul contenuto, se il suo utilizzo sia legittimo o chi debba risponderne. Inoltre, non identifica l’utente, l’account, il prompt o la conversazione da cui proviene il testo.
Il sistema non verifica nemmeno la correttezza delle informazioni. Un testo contrassegnato potrebbe contenere errori o affermazioni fuorvianti, mentre l’assenza di una filigrana non dimostra che il contenuto sia opera di una persona.
Esistono diverse ragioni per cui il rilevatore potrebbe non riconoscere un testo generato dall’IA. Il brano potrebbe essere troppo breve, essere stato modificato o tradotto oppure provenire da un modello non supportato. Potrebbe anche risalire a un periodo precedente all’introduzione delle filigrane o essere stato prodotto con strumenti di altre aziende.
Occorre quindi distinguere tra un segnale tecnico sulla provenienza e una prova definitiva sull’autore o sulle modalità di creazione.
Introduzione nell’Unione europea e accesso al rilevatore
OpenAI prevede di aggiungere filigrane invisibili agli output testuali idonei di ChatGPT e Codex nell’Unione europea nelle prossime settimane. L’introduzione riguarderà gli utenti idonei di entrambi i servizi, indipendentemente dal piano utilizzato.
Al lancio, l’azienda non intende attivare questa funzione per impostazione predefinita a livello globale. La scelta di partire dal mercato europeo consentirà di raccogliere riscontri sull’impiego della tecnologia in condizioni reali.
Parallelamente, i clienti API di tutto il mondo possono scegliere di attivare la filigrana testuale per alcuni modelli. Nell’API, la funzione resterà disattivata per impostazione predefinita. OpenAI sta inoltre collaborando con partner cloud per estendere la disponibilità della tecnologia agli output dei propri modelli accessibili attraverso i loro servizi.
Anche il rilevatore seguirà una fase iniziale di accesso controllato. Ricercatori autorizzati e organizzazioni specializzate potranno presentare domanda per utilizzare lo strumento, che sarà concesso caso per caso. L’obiettivo è valutare l’affidabilità del sistema e migliorarlo prima di un’eventuale apertura più ampia.
Il rilevatore segnalerà la presenza di una filigrana OpenAI, senza identificare l’utente né rivelare prompt e conversazioni. Per il momento, l’azienda esclude la disponibilità pubblica dello strumento, anche alla luce del rischio di falsi positivi e mancate rilevazioni.
Una strategia più ampia per la provenienza dei contenuti
Le filigrane testuali si inseriscono in un programma più ampio dedicato alla provenienza dei contenuti generati dall’intelligenza artificiale. OpenAI utilizza già diverse tecniche per le immagini e l’audio, con l’obiettivo di aiutare persone e organizzazioni a comprendere l’origine dei file.
Tra gli strumenti adottati figurano le Content Credentials per gli output di immagini supportati, la conformità agli standard C2PA e le filigrane invisibili SynthID per immagini e audio idonei. L’azienda mette inoltre a disposizione strumenti pubblici per verificare determinati contenuti audiovisivi, attraverso il sito openai.com/verify e la Content Provenance API.
Queste tecnologie svolgono funzioni complementari. Le Content Credentials possono documentare l’origine e la cronologia di un file, mentre le filigrane invisibili possono conservare un segnale anche quando i metadati vengono rimossi.
La verifica della provenienza può inoltre aiutare persone e piattaforme a valutare contenuti potenzialmente ingannevoli, compresi i deepfake. Tuttavia, non rappresenta una soluzione autonoma. OpenAI affianca questi strumenti a politiche di utilizzo, sistemi di rilevamento degli abusi, segnalazioni, indagini e misure di applicazione delle regole.
L’azienda collabora anche con ricercatori, organismi di standardizzazione, piattaforme e organizzazioni della società civile per favorire l’adozione di strumenti utili all’intero ecosistema digitale.
Gli sviluppi futuri e il quadro normativo europeo
L’estensione delle tecniche di provenienza ai testi pone difficoltà specifiche. A differenza di altri contenuti, infatti, un testo può essere riscritto, tradotto o modificato con relativa facilità, rendendo più complesso il riconoscimento del segnale originario.
OpenAI intende proseguire le valutazioni sulla resistenza delle filigrane alle modifiche e alle traduzioni. L’azienda prevede inoltre di aggiornare il proprio rapporto tecnico su textGrain e di rendere la tecnologia disponibile in modalità open source, così da consentire ulteriori sviluppi da parte di altri soggetti.
Il percorso comprende anche la ricerca di metodi più efficaci per distinguere l’assistenza dell’intelligenza artificiale dalla creazione diretta di contenuti attraverso questi sistemi. Si tratta di due aspetti diversi, che una filigrana, da sola, non può separare con certezza.
L’approccio resterà quindi aperto a revisioni sulla base delle evidenze raccolte, dell’evoluzione degli standard e dei requisiti normativi. L’accesso al rilevatore potrà ampliarsi quando i risultati offriranno garanzie sufficienti per un’interpretazione responsabile.
La filigrana testuale rappresenta uno strumento aggiuntivo per comprendere la provenienza dei contenuti, non un sistema infallibile per attribuire un testo a un autore. La sua utilità dipenderà dalla capacità di combinare il segnale tecnico con altri strumenti di verifica e da una comunicazione chiara dei suoi limiti. (La redazione)
✓ MUSICLETTER.IT è un sito indipendente di musica, cultura e informazione fondato nel 2005 da Luca D'Ambrosio © Tutti i diritti riservati - 17 Ottobre 2026