Con milioni di utenti ChatGPT, potresti chiederti cosa fa OpenAI con tutte le sue conversazioni. Analizza costantemente le cose di cui parli con ChatGPT?
La risposta è sì, ChatGPT impara dall'input dell'utente, ma non nel modo in cui pensa la maggior parte delle persone. Ecco una guida approfondita che spiega perché ChatGPT tiene traccia delle conversazioni, come le utilizza e se la tua sicurezza è compromessa.
ChatGPT ricorda le conversazioni?
ChatGPT non accetta i prompt al valore nominale. Utilizza la memoria contestuale per ricordare e fare riferimento a input precedenti, garantendo risposte pertinenti e coerenti.
Prendi la conversazione qui sotto come esempio. Quando abbiamo chiesto a ChatGPT idee per ricette, ha preso in considerazione il nostro messaggio precedente sulle allergie alle arachidi.
Ecco la ricetta sicura di ChatGPT.
La memoria contestuale consente inoltre all'IA di eseguire attività in più fasi. L'immagine sotto mostra ChatGPT che rimane nel personaggio anche dopo avergli fornito un nuovo prompt.
ChatGPT può ricordare dozzine di istruzioni all'interno delle conversazioni. Il suo output migliora effettivamente in termini di accuratezza e precisione man mano che fornisci più contesto. Assicurati solo di spiegare le tue istruzioni in modo esplicito.
Dovresti anche gestire le tue aspettative perché la memoria contestuale di ChatGPT ha ancora dei limiti.
Le conversazioni ChatGPT hanno capacità di memoria limitate
La memoria contestuale è finita. ChatGPT ha risorse hardware limitate, quindi ricorda solo fino a punti specifici delle conversazioni correnti. La piattaforma dimentica i prompt precedenti una volta raggiunta la sua capacità di memoria.
In questa conversazione, abbiamo incaricato ChatGPT di interpretare un personaggio immaginario di nome Tomie.
Ha iniziato a rispondere alle richieste come Tomie, non ChatGPT.
Sebbene la nostra richiesta abbia funzionato, ChatGPT ha interrotto il carattere dopo aver ricevuto un messaggio di 1.000 parole.
OpenAI non ha mai rivelato i limiti esatti di ChatGPT, ma si dice che possa elaborare solo 3.000 parole alla volta. Nel nostro esperimento, ChatGPT ha funzionato male dopo appena 2.800+ parole.
Puoi suddividere i tuoi prompt in due set di 1.500 parole, ma ChatGPT probabilmente non conserverà tutte le tue istruzioni. Basta iniziare un'altra chat del tutto. Altrimenti, dovrai ripetere dettagli specifici più volte durante la conversazione.
ChatGPT ricorda solo gli input rilevanti per l'argomento
ChatGPT utilizza la memoria contestuale per migliorare la precisione dell'output. Non conserva le informazioni solo per il gusto di raccoglierle. La piattaforma dimentica quasi automaticamente i dettagli irrilevanti, anche se sei lontano dal raggiungere il limite di token.
Nell'immagine sottostante, proviamo a confondere l'IA con varie istruzioni incoerenti e irrilevanti.
Abbiamo mantenuto i nostri input combinati sotto le 100 parole, ma ChatGPT ha comunque dimenticato la nostra prima istruzione. Ha rapidamente rotto il carattere.
Nel frattempo, ChatGPT ha continuato a giocare di ruolo durante questa conversazione perché abbiamo posto solo domande rilevanti per l'argomento.
Idealmente, ogni dialogo deve seguire un tema unico per mantenere risultati accurati e pertinenti. È comunque possibile inserire più istruzioni contemporaneamente. Assicurati solo che siano allineati con l'argomento generale, altrimenti ChatGPT potrebbe eliminare le istruzioni che ritiene irrilevanti.
Istruzioni per l'allenamento Supera l'input dell'utente
ChatGPT darà sempre la priorità alle istruzioni predeterminate rispetto all'input generato dall'utente. Ferma le attività illecite attraverso restrizioni. La piattaforma rifiuta qualsiasi suggerimento che ritenga pericoloso o dannoso per gli altri.
Prendi le richieste di gioco di ruolo come esempi. Sebbene prevalgano su alcune limitazioni di linguaggio e fraseologia, non è possibile utilizzarle per commettere attività illecite.
Naturalmente, non tutte le restrizioni sono ragionevoli. Se linee guida rigide rendono difficile l'esecuzione di compiti specifici, continua a riscrivere i tuoi suggerimenti. La scelta delle parole e il tono influiscono pesantemente sui risultati. Puoi prendere ispirazione dai più prompt efficaci e dettagliati su GitHub.
In che modo OpenAI studia le conversazioni degli utenti?
La memoria contestuale si applica solo alla tua conversazione attuale. L'architettura stateless di ChatGPT tratta le conversazioni come istanze indipendenti; non può fare riferimento a informazioni di quelle precedenti. L'avvio di nuove chat reimposta sempre lo stato del modello.
Questo non vuol dire che ChatGPT scarichi istantaneamente le conversazioni degli utenti. Termini di utilizzo di OpenAI affermare che la società raccoglie input da servizi consumer non API come ChatGPT e Dall-E. Puoi anche chiedere copie della tua cronologia chat.
Mentre ChatGPT accede liberamente alle conversazioni, Informativa sulla privacy di OpenAI vieta le attività che potrebbero compromettere gli utenti. I formatori possono utilizzare i tuoi dati solo per la ricerca e lo sviluppo del prodotto.
Gli sviluppatori cercano scappatoie
OpenAI passa al setaccio le conversazioni alla ricerca di scappatoie. Analizza i casi in cui ChatGPT dimostra pregiudizi sui dati, produce informazioni dannose o aiuta a commettere attività illecite. Le linee guida etiche della piattaforma vengono costantemente rinnovate.
Ad esempio, le prime versioni di ChatGPT ha risposto apertamente alle domande sulla codifica del malware o costruire esplosivi. Questi incidenti hanno fatto sentire gli utenti OpenAI non ha alcun controllo su ChatGPT. Per riconquistare la fiducia del pubblico, ha addestrato il chatbot a rifiutare qualsiasi domanda che potesse andare contro le sue linee guida.
I formatori raccolgono e analizzano i dati
ChatGPT utilizza tecniche di apprendimento supervisionato. Sebbene la piattaforma ricordi tutti gli input, non impara da essi in tempo reale. I formatori OpenAI li raccolgono e li analizzano per primi. In questo modo si garantisce che ChatGPT non assorba mai le informazioni dannose e dannose che riceve.
L'apprendimento supervisionato richiede più tempo ed energia rispetto alle tecniche non supervisionate. Tuttavia, lasciare che l'intelligenza artificiale analizzi da sola l'input si è già dimostrato dannoso.
Prendi Microsoft Tay come esempio, uno dei volte in cui l'apprendimento automatico è andato storto. Dal momento che analizzava costantemente i tweet senza la guida degli sviluppatori, gli utenti malintenzionati alla fine lo hanno addestrato a sputare opinioni razziste e stereotipate.
Gli sviluppatori fanno costantemente attenzione ai pregiudizi
Parecchi fattori esterni causano distorsioni nell'IA. I pregiudizi inconsci possono derivare da differenze nei modelli di addestramento, errori nei set di dati e restrizioni mal costruite. Li individuerai in varie applicazioni AI.
Per fortuna, ChatGPT non ha mai dimostrato pregiudizi discriminatori o razziali. Forse il peggior pregiudizio che gli utenti hanno notato è l'inclinazione di ChatGPT verso le ideologie di sinistra, secondo a Posta di New York rapporto. La piattaforma scrive più apertamente di argomenti liberali che conservatori.
Per risolvere questi pregiudizi, OpenAI ha proibito a ChatGPT di fornire del tutto approfondimenti politici. Può solo rispondere a fatti generali.
I moderatori esaminano le prestazioni di ChatGPT
Gli utenti possono fornire feedback sull'output di ChatGPT. Troverai i pulsanti pollice su e pollice giù sul lato destro di ogni risposta. Il primo indica una reazione positiva. Dopo aver premuto il pulsante Mi piace o Non mi piace, verrà visualizzata una finestra in cui puoi inviare un feedback con parole tue.
Il sistema di feedback è utile. Concedi a OpenAI un po' di tempo per vagliare i commenti. Milioni di utenti commentano regolarmente ChatGPT: i suoi sviluppatori probabilmente danno la priorità a gravi casi di pregiudizi e generazione di output dannosi.
Le tue conversazioni ChatGPT sono sicure?
Considerando le politiche sulla privacy di OpenAI, puoi essere certo che i tuoi dati rimarranno al sicuro. ChatGPT utilizza le conversazioni solo per l'addestramento dei dati. I suoi sviluppatori studiano le informazioni raccolte per migliorare l'accuratezza e l'affidabilità dell'output, non rubare dati personali.
Detto questo, nessun sistema di intelligenza artificiale è perfetto. ChatGPT non è intrinsecamente di parte, ma gli individui malintenzionati potrebbero comunque sfruttare le sue vulnerabilità, ad esempio errori del set di dati, formazione negligente e falle nella sicurezza. Per la tua protezione, impara a combattere questi rischi.