Quanto può durare una risposta ChatGPT prima che l'IA generativa smetta di risponderti?

ChatGPT è una grande novità. Ma quanto sono grandi le risposte che ricevi da questo chatbot per tutti gli usi?

Stabilirlo non è così semplice come si potrebbe pensare. Per cominciare, fai proprio questa domanda a ChatGPT e sarai certo che non ci sono limiti prefissati alla lunghezza delle sue risposte.

Tuttavia, come scopriamo qui, non è così semplice. Ci sono limiti nascosti alla lunghezza di una risposta ChatGPT, ma ci sono anche alcune soluzioni alternative ingegnose e semplici per aiutarti a ottenere risposte più lunghe.

In che modo ChatGPT determina la lunghezza di una risposta?

Il funzionamento di ChatGPT è complessoe la lunghezza della risposta varia a seconda di ciò che viene chiesto e del livello di dettaglio richiesto. Come mostra il prossimo screenshot, ChatGPT afferma che non ci sono limiti rigidi.

Questo non è quello che abbiamo trovato. L'esempio seguente mostra ChatGPT che interrompe improvvisamente una risposta a metà frase. Gli abbiamo chiesto di redigere un saggio di mille parole sui vantaggi di un'economia circolare. ChatGPT ha smesso di rispondere quando è arrivato a 677 parole.

instagram viewer

Abbiamo ripetuto il test più volte con domande diverse, e ogni volta si interrompeva a metà frase; occasionalmente, questo era accompagnato da un errore di rete. Questo è un errore comune e ci sono vari modi per correggere gli errori di rete in ChatGPT.

Parte della risposta al motivo per cui ciò accade risiede in qualcosa chiamato sistema di token.

Qual è il sistema di token utilizzato da ChatGPT?

Piuttosto che un semplice conteggio delle parole per determinare la lunghezza delle domande e delle risposte, ChatGPT utilizza un sistema di token. Questo suddivide ogni input e output in una serie di token utilizzati per classificare la richiesta e la dimensione della risposta.

Sebbene il conteggio delle parole abbia un ruolo in questo, non è l'intera storia. Ad esempio, è stato inserito l'esempio seguente Lo strumento Tokenizer di OpenAi.

La frase e la risposta sono state "tokenizzate" per un valore di nove token. Ciò è coerente con la "regola pratica" di OpenAI secondo cui un token equivale a tre quarti di una parola.

Il modello GPT 3.5 limita le domande e i dati degli utenti a 4.097 token. Secondo i calcoli di OpenAI, ciò equivale a circa 3.000 parole. Tuttavia, è importante notare che questo limite si applica sia alla risposta che alla domanda.

Anche se in teoria va tutto bene e bene, i risultati che abbiamo riscontrato non si sono mai avvicinati a questi limiti. La risposta incompleta che ChatGPT ha restituito nel nostro test precedente pesava solo 798 token.

Perché le risposte di ChatGPT sono limitate?

Questa tecnologia alle prime armi è rapidamente diventata lo sviluppo tecnologico di cui si parla di più in questo secolo. Ciò ha generato un'enorme richiesta di ChatGPT. In definitiva, questa domanda ha effettivamente ridotto le risposte ben al di sotto dei limiti dichiarati.

Sebbene non vi sia alcuna conferma ufficiale di ciò, sembra esserci un limite de facto di circa cinquecento parole o 4.000 caratteri.

Per sottolineare, questa non è una regola fissa: abbiamo generato output che hanno superato questa soglia di quasi duecento parole. Tuttavia, questo può essere considerato un limite massimo sicuro per ottenere risposte complete.

Come ottenere risposte più lunghe da ChatGPT

Una volta compreso che esiste un "limite nascosto" alle risposte di ChatGPT, ci sono alcuni semplici modi per aiutarti a ottenere risposte più complete.

  1. Chiedi a ChatGPT di continuare: Se ChatGPT si interrompe a metà di una risposta, un'opzione è semplicemente chiedergli di continuare. Nell'esempio seguente, abbiamo digitato "Continua" e ha aggiunto altre duecento parole alla risposta.
  2. Suddividi la tua domanda in sezioni più piccole: Ad esempio, gli abbiamo chiesto più volte di scrivere un saggio sull'impatto dell'IA sulla società. Ogni volta che la risposta si interrompeva. Un'opzione qui è chiedergli di elencare alcuni argomenti per un saggio sull'intelligenza artificiale, quindi utilizzare gli elenchi puntati forniti come singoli suggerimenti.
  3. Utilizzare l'opzione Rigenera: Anche se questo potrebbe generare lo stesso errore, senza nulla da perdere, vale sempre la pena provare.
  4. Specifica un limite massimo per il conteggio delle parole nel tuo messaggio: L'immagine seguente illustra come questo può essere utilizzato per manipolare il numero massimo di parole in una risposta.

Questi suggerimenti ti aiuteranno a ottenere risposte più complete da ChatGPT e ad aggirare il limite non ufficiale della lunghezza delle sue risposte.

ChatGPT: qualità rispetto alla quantità

Sebbene non ci siano limiti fissi alla lunghezza delle risposte di ChatGPT, la piattaforma sembra imporre un limite di circa cinquecento parole o 4.000 caratteri.

Principalmente questo può essere attribuito all'enorme richiesta di ChatGPT. Ciò ha portato a risposte incomplete e ha interrotto le risposte a metà frase, ma esistono semplici soluzioni alternative per aiutarti a ottenere risposte più lunghe.

Nonostante i suoi limiti, ChatGPT rimane un notevole sviluppo tecnologico che continuerà a sviluppare ed espandere i confini di qualità e quantità della sua produzione.