Dopo il lancio di ChatGPT nel novembre 2022, il fenomenale chatbot AI è emerso come uno degli strumenti di scrittura più affidabili su Internet. È semplice da usare; descrivi cosa devi scrivere e ChatGPT lo stampa sullo schermo in pochi secondi.
Tuttavia, in un'era in cui il testo generato dall'intelligenza artificiale viene passato come scritto dall'uomo e utilizzato per ottenere un vantaggio sleale, l'identificazione del contenuto dell'IA è molto importante. Ma ChatGPT non è in grado di individuare con precisione i contenuti AI, nemmeno il proprio lavoro, ma perché?
C'è una differenza tra il testo AI e la scrittura umana?
Un prerequisito per ChatGPT per individuare la propria scrittura o qualsiasi testo generato dall'intelligenza artificiale è che deve esserci una differenza tra esso e il testo scritto dall'uomo. Quindi, c'è qualche differenza significativa tra il testo scritto dall'uomo e il contenuto generato dall'intelligenza artificiale? Se c'è, sicuramente, uno strumento come ChatGPT dovrebbe essere in grado di discernerlo.
Abbiamo scritto un racconto senza alcun input da alcuno strumento di intelligenza artificiale e poi abbiamo chiesto a ChatGPT se la storia fosse un contenuto scritto dall'IA. ChatGPT lo ha contrassegnato con sicurezza come testo generato dall'intelligenza artificiale.
Abbiamo quindi chiesto a ChatGPT di generare una storia e, nello stesso thread di chat, abbiamo copiato e incollato il testo generato e chiesto a ChatGPT se il testo fosse stato creato dall'intelligenza artificiale. La risposta di ChatGPT? Un fiducioso "No".
ChatGPT non è riuscito a identificare il testo scritto dall'uomo o generato dall'intelligenza artificiale in entrambi i casi. Allora come mai ChatGPT non è in grado di rilevare il proprio testo? Questo significa che non c'è differenza tra AI e testo umano?
Beh, c'è. Potremmo scrivere un intero libro sulla differenza tra i due, ma non avrà molta importanza. Quindi, se c'è una differenza, perché ChatGPT o qualsiasi altro strumento di intelligenza artificiale non è in grado di identificare queste differenze e indicare con precisione il testo generato dall'IA da uno scritto dall'uomo? La risposta sta dentro come funziona ChatGPT e come genera testo.
Come ChatGPT genera il testo
Quando chiedi a ChatGPT di generare testo, cerca di imitare il processo di scrittura umano. In primo luogo, il modello alla base di ChatGPT, Generative Pre-trained Transformer (GPT), è stato addestrato su un ampio corpus di testo umano. Tutto da e-mail, articoli sulla salute, articoli tecnici, saggi sulle scuole superiori e praticamente qualsiasi testo che puoi trovare online è stato fornito al modello durante l'allenamento. Quindi ChatGPT capisce come dovrebbe essere scritto ciascuno di questi tipi di testi.
Se chiedi a ChatGPT di scrivere un'e-mail al tuo capo, sa come dovrebbe apparire un'e-mail di quella natura perché è stata addestrata su e-mail simili, probabilmente migliaia. Allo stesso modo, se gli chiedi di scrivere un saggio di scuola superiore, sa anche come dovrebbe suonare un saggio di scuola superiore. ChatGPT proverà a scrivere quello che vuoi che scriva come farebbe un essere umano.
Ma c'è un problema. A differenza di come scrivono gli umani, ChatGPT non capisce veramente cosa sta scrivendo come farebbe un essere umano. Invece, il chatbot cerca di prevedere quale sarebbe la parola successiva più plausibile in una frase finché non completa la stesura.
Come scrive ChatGPT per previsione
Supponiamo che tu chieda a ChatGPT di scrivere una storia su una città immaginaria chiamata Volkra. C'è un'enorme possibilità che il chatbot inizi la storia con le parole "C'era una volta". Questo perché il chatbot non pensa a stesso, ma cerca di prevedere cosa scriverebbe un essere umano in base a ciò che ha appreso dalle migliaia di storie durante le quali è stato nutrito formazione.
Quindi, credendo che un essere umano probabilmente inizierebbe la storia con le parole "C'era una volta", ChatGPT proverebbe quindi a prevedere la parola logica successiva, che essere "a" seguito da "tempo". Quindi avresti "C'era una volta..." seguito dalla successiva parola logica e dalla successiva fino al completamento della storia. ChatGPT fondamentalmente scrive prevedendo quale parola sarebbe naturalmente (o almeno ha la più alta probabilità) di venire dopo in una frase e inserendola.
Quindi, quando uno strumento di intelligenza artificiale cerca di rilevare se un testo è generato dall'IA, uno dei criteri che cerca di soppesare è la prevedibilità del testo poiché gli strumenti di intelligenza artificiale scrivono per previsione. Questa misura della prevedibilità è chiamata perplessità nel linguaggio dell'IA. Ora, quando viene presentato un testo, tra gli altri criteri, uno strumento AI come ChatGPT cerca di analizzare il testo per misurare quanto sia prevedibile la sequenza di parole o frasi nel testo. Una maggiore prevedibilità o una bassa perplessità in genere indicano che il testo è probabilmente generato dall'intelligenza artificiale. Meno prevedibilità o maggiore perplessità in genere significano che il testo è probabilmente scritto da umani.
Questi criteri, insieme ad altri fattori come il livello di creatività di un testo, purtroppo non sono sufficienti per accertare con certezza se un testo è scritto da uno strumento di intelligenza artificiale oppure no. Questo perché gli esseri umani possono scrivere con una varianza maggiore, come nel testo di esempio che abbiamo usato per la dimostrazione all'inizio di questo articolo.
I chatbot AI come ChatGPT sono progettati per imitare il più possibile il linguaggio umano naturale. Quindi, sebbene il testo AI possa avere schemi riconoscibili, questi schemi non sono così ovvi nemmeno per uno strumento potente come ChatGPT. Questo è il motivo per cui ChatGPT non può individuare la propria scrittura, così come perché gli strumenti di rilevamento del testo AI non funzionano.
ChatGPT riconoscerà la propria scrittura in futuro?
Attualmente, strumenti come ChatGPT non sono in grado di rilevare se un testo è stato scritto da solo o da qualsiasi altro strumento di intelligenza artificiale perché non esiste uno schema chiaro e distinguibile nei contenuti generati dall'IA. Tuttavia, ci sono buone possibilità che questo possa cambiare presto. Con gli sforzi di aziende come ChatGPT per introdurre filigrane digitali nei contenuti generati da ChatGPT, ci sarà uno schema più distinguibile nel testo generato dal chatbot.
