ChatGPT è un nuovo potente chatbot basato sull'intelligenza artificiale che impressiona rapidamente, ma molte persone hanno sottolineato che presenta alcune serie insidie. Chiedigli quello che vuoi e riceverai una risposta che sembra scritta da un essere umano, avendo appreso le sue conoscenze e capacità di scrittura da enormi quantità di informazioni su Internet.
Proprio come Internet, tuttavia, la verità e i fatti non sono sempre scontati e ChatGPT è colpevole di sbagliare. Con ChatGPT destinato a cambiare il nostro futuro, ecco alcune delle maggiori preoccupazioni.
Che cos'è ChatGPT?
ChatGPT è un grande modello di apprendimento delle lingue progettato per imitare la conversazione umana. Può ricordare cose che gli hai detto in passato ed è in grado di correggersi quando è sbagliato.
Scrive in modo umano e ha una vasta conoscenza perché è stato addestrato su tutti i tipi di testo da Internet, come Wikipedia, post di blog, libri e articoli accademici.
È facile da imparare come usare ChatGPT, ma ciò che è più difficile è scoprire quali sono i suoi maggiori problemi. Eccone alcuni che vale la pena conoscere.
1. ChatGPT non ha sempre ragione
Fallisce in matematica di base, non sembra in grado di rispondere a semplici domande logiche e arriva persino a sostenere fatti completamente errati. Come possono attestare gli utenti dei social media, ChatGPT può sbagliare in più di un'occasione.
OpenAI conosce questa limitazione, scrivendo che: "ChatGPT a volte scrive risposte plausibili ma errate o prive di senso". Questo "allucinazione" di realtà e finzione, come la chiamano alcuni scienziati, è particolarmente pericolosa quando si tratta di qualcosa di simile alla medicina consiglio.
A differenza di altri assistenti AI come Siri o Alexa, Chat GPT non utilizza Internet per trovare le risposte. Invece, costruisce una frase parola per parola, selezionando il "token" più probabile che dovrebbe venire dopo, in base alla sua formazione.
In altre parole, ChatGPT arriva a una risposta facendo una serie di ipotesi, che è parte del motivo per cui può argomentare risposte sbagliate come se fossero completamente vere.
Sebbene sia ottimo per spiegare concetti complessi, rendendolo un potente strumento per l'apprendimento, è importante non credere a tutto ciò che dice. ChatGPT non è sempre corretto, almeno non ancora.
2. Il pregiudizio è integrato nel sistema
ChatGPT è stato addestrato sulla scrittura collettiva di esseri umani in tutto il mondo, passato e presente. Ciò significa che le stesse distorsioni che esistono nei dati possono apparire anche nel modello.
Gli utenti, infatti, hanno mostrato come ChatGPT possa dare risposte terribili, alcune, per esempio, che discriminano le donne. Ma questa è solo la punta dell'iceberg; può produrre risposte estremamente dannose per una serie di gruppi minoritari.
La colpa non risiede nemmeno semplicemente nei dati. I ricercatori e gli sviluppatori di OpenAI scelgono i dati utilizzati per addestrare ChatGPT. Per aiutare ad affrontare ciò che OpenAI chiama "comportamento parziale", chiede agli utenti di fornire un feedback sui cattivi risultati.
Con il potenziale per causare danni alle persone, puoi sostenere che ChatGPT non avrebbe dovuto essere rilasciato al pubblico prima che questi problemi fossero studiati e risolti.
Un chatbot AI simile chiamato Sparrow (di proprietà della società madre di Google, Alphabet) è stato rilasciato nel settembre 2022. Tuttavia, è stato tenuto a porte chiuse a causa di preoccupazioni simili che potesse causare danni.
Forse anche Meta avrebbe dovuto guidare l'avvertimento. Quando ha rilasciato Galactica, un modello di linguaggio AI addestrato su documenti accademici, è stato rapidamente richiamato dopo che molte persone lo hanno criticato per aver prodotto risultati errati e distorti.
3. Una sfida per l'inglese delle scuole superiori
Puoi chiedere a ChatGPT di correggere le bozze della tua scrittura o indicare come migliorare un paragrafo. In alternativa, puoi rimuoverti completamente dall'equazione e chiedere a ChatGPT di scrivere qualcosa per te.
Gli insegnanti hanno sperimentato l'invio di compiti in inglese a ChatGPT e hanno ricevuto risposte migliori di quelle che potrebbero fare molti dei loro studenti. Dalla scrittura di lettere di accompagnamento alla descrizione dei temi principali in una famosa opera letteraria, ChatGPT può farlo senza esitare.
Ciò pone la domanda: se ChatGPT può scrivere per noi, gli studenti dovranno imparare a scrivere in futuro? Potrebbe sembrare una domanda esistenziale, ma quando gli studenti iniziano a utilizzare ChatGPT per scrivere i loro saggi, le scuole dovranno pensare rapidamente a una risposta. Il rapido dispiegamento dell'IA negli ultimi anni è destinato a sconvolgere molti settori e l'istruzione è solo uno di questi.
4. Può causare danni nel mondo reale
In precedenza, abbiamo menzionato come le informazioni errate di ChatGPT possano causare danni nel mondo reale, con l'esempio più ovvio che è un consiglio medico sbagliato.
Ci sono anche altre preoccupazioni. Gli account di social media falsi rappresentano un enorme problema su Internet e con l'introduzione dei chatbot AI, le truffe su Internet diventerebbero più facili da eseguire. La diffusione di informazioni false è un'altra preoccupazione, specialmente quando ChatGPT fa sembrare giuste anche le risposte sbagliate.
La velocità con cui ChatGPT può produrre risposte non sempre corrette ha già causato problemi a Stack Exchange, un sito Web in cui gli utenti possono pubblicare domande e ottenere risposte.
Subito dopo il suo rilascio, le risposte di ChatGPT sono state bandite dal sito perché molte di esse erano sbagliate. Senza un numero sufficiente di volontari umani per smistare l'arretrato, sarebbe impossibile mantenere un alto livello di risposte di qualità, causando danni al sito web.
5. OpenAI ha tutto il potere
Da un grande potere derivano grandi responsabilità e OpenAI detiene molto potere. È una delle prime aziende di intelligenza artificiale a scuotere davvero il mondo con non uno, ma più modelli di intelligenza artificiale, tra cui Dall-E 2, GPT-3 e ora ChatGPT.
OpenAI sceglie quali dati vengono utilizzati per addestrare ChatGPT e come affrontare le conseguenze negative. Che siamo d'accordo o meno con i metodi, continuerà a sviluppare questa tecnologia secondo i propri obiettivi.
Sebbene OpenAI consideri la sicurezza una priorità assoluta, ci sono molte cose che non sappiamo su come vengono creati i modelli. Sia che tu pensi che il codice debba essere reso open source, sia che accetti che debba mantenerne segrete alcune parti, non c'è molto che possiamo fare al riguardo.
Alla fine della giornata, tutto ciò che possiamo fare è fidarci che OpenAI cercherà, svilupperà e utilizzerà ChatGPT in modo responsabile. In alternativa, possiamo sostenere che più persone abbiano voce in capitolo in quale direzione dovrebbe dirigersi l'IA, condividendo il potere dell'IA con le persone che la useranno.
Se sei interessato a cos'altro ha sviluppato OpenAI, dai un'occhiata ai nostri articoli su come usare Dall-E 2 E come utilizzare GPT-3.
Affrontare i maggiori problemi dell'IA
C'è molto di cui essere entusiasti con ChatGPT, l'ultimo sviluppo di OpenAI. Ma al di là dei suoi usi immediati, ci sono alcuni seri problemi che vale la pena comprendere.
OpenAI ammette che ChatGPT può produrre risposte dannose e distorte, per non parlare della sua capacità di mescolare realtà e finzione. Con una tecnologia così nuova, è difficile prevedere quali altri problemi sorgeranno. Quindi, fino ad allora, divertiti a esplorare ChatGPT e fai attenzione a non credere a tutto ciò che dice.