Il chatbot automatizzato basato sull'intelligenza artificiale di OpenAI, ChatGPT, ha preso d'assalto Internet, ma non senza creare alcuni problemi lungo la strada. Con scrittori, programmatori, esperti di marketing e apparentemente tutti gli altri che utilizzano ChatGPT per generare contenuti, le aziende di tutto il mondo stanno osservando uno tsunami di contenuti generati dall'intelligenza artificiale.
Con problemi di plagio e contenuti rubati che turbinano costantemente attorno a ChatGPT e al suo output, OpenAI ha ora rilasciato un nuovo GPT-Classifier, uno strumento progettato per rilevare e rivelare se il testo che stai leggendo è opera di ChatGPT o di uno dei suoi altri Strumenti GPT.
OpenAI lancia GPT-Classifier per aiutare a controllare il testo scritto da AI
L'annuncio di OpenAI viene come controllo sulla scrittura AI e sul testo generato dall'AI aumenta e le aziende integrano l'output di ChatGPT.
Il nuovo classificatore GPT tenta di capire se un determinato pezzo di testo è stato scritto da persone o il lavoro di un generatore di intelligenza artificiale. Mentre ChatGPT e altri modelli GPT vengono ampiamente addestrati su tutti i tipi di input di testo, il Lo strumento GPT-Classifier è "ottimizzato su un set di dati di coppie di testo scritto dall'uomo e testo scritto dall'intelligenza artificiale sul stesso argomento”.
Quindi, invece di recuperare le informazioni e ricreare la loro migliore approssimazione, il Classificatore GPT tenta di farlo confronta le somiglianze tra il testo umano noto e il testo AI noto per trovare discrepanze che rivelano la fonte scrittore.
Il rilevamento del classificatore GPT è attualmente limitato
Mentre l'idea di individuare facilmente il testo generato dall'intelligenza artificiale sarà musica per le orecchie di editori ed educatori, OpenAI ha avvertito che il suo "classificatore non è completamente affidabile".
Attualmente, GPT-Classifier "identifica correttamente il 26% del testo scritto dall'IA" mentre etichetta il 9% del testo umano come scritto dall'IA. OpenAI rileva inoltre che la precisione dello strumento "in genere migliora con l'aumentare della lunghezza del testo di input".
Un rapido test del classificatore GPT ha individuato un esempio generato dall'uomo e lo ha contrassegnato come "molto improbabile che lo sia generato dall'intelligenza artificiale" e ha anche indicato correttamente che uno snippet generato da ChatGPT sui problemi USB era "probabilmente AI generato”.
La domanda per il rilevamento di ChatGPT è elevata
Anche con i limiti del Classificatore GPT, è probabile che la richiesta di un rilevamento ChatGPT affidabile faccia sì che molti si rivolgano a questo strumento. L'impegno di OpenAI per la creazione e il rilascio di uno strumento di rilevamento GPT gratuito è importante perché più studenti, scrittori, programmatori e altri utilizzano strumenti di generazione di testo AI, la comprensione e il rilevamento di questo input diventeranno vitale.
Per ora, sebbene GPT-Classifier sia attivo e funzionante e disponibile per i test, è meglio prendere la sua etichettatura con un pizzico di sale.