Da quando gli strumenti di generazione del linguaggio naturale come ChatGPT si sono diffusi, è cresciuta la necessità di distinguere i testi scritti da un’intelligenza artificiale da quelli prodotti da un essere umano. Tuttavia, i detector attualmente disponibili presentano limiti significativi, spesso classificando erroneamente contenuti originali come generati da IA o viceversa.
OpenAI, l’azienda creatrice di ChatGPT guidata da Sam Altman, ha annunciato di essere al lavoro su una nuova tecnologia in grado di inserire una sorta di “filigrana digitale” nei testi generati dai suoi modelli. Questa filigrana, invisibile all’occhio umano, potrebbe essere rilevata da uno strumento specifico, permettendo di identificare con maggiore certezza i contenuti generati da IA.
I vantaggi e i rischi della watermarking
Questa soluzione presenta indubbi vantaggi, soprattutto in ambito accademico e giornalistico, dove l’originalità dei contenuti è fondamentale. Tuttavia, solleva anche diverse preoccupazioni:
- Efficacia limitata: OpenAI stessa ammette che la watermarking potrebbe essere facilmente aggirata da utenti malintenzionati.
- Discriminazione linguistica: Lo strumento è progettato per funzionare con la lingua inglese. Ciò potrebbe penalizzare gli utenti non madrelingua che utilizzano l’IA per tradurre testi.
- Privacy: L’introduzione di questa tecnologia solleva interrogativi sulla privacy degli utenti e sul controllo esercitato dalle aziende sui contenuti generati.
La ricerca di strumenti affidabili per distinguere i contenuti generati da IA da quelli umani è un tema di grande attualità. Tuttavia, la soluzione proposta da OpenAI, pur interessante, non sembra essere una panacea. È necessario un approccio più complesso e multidisciplinare, che tenga conto delle implicazioni etiche e sociali di queste tecnologie.
