Quando si tratta di social media, sappiamo tutti che oltre ai numerosi vantaggi che offre nel creare connessioni più facile, ci possono essere anche alcuni rischi e pericoli che derivano dall'interazione online, specialmente per i giovani. Per fortuna, ci sono app là fuori che sono proattive e cercano di limitare questi danni che possono venire ai giovani implementando adeguate tecnologie di moderazione.
Yubo, l'app di social discovery dal vivo più utilizzata dalla Gen Z, ha annunciato la sua moderazione audio in live streaming la tecnologia si sta espandendo nei suoi mercati più grandi, vale a dire Stati Uniti, Regno Unito, Australia e Canada.
Ciò avviene dopo diversi mesi di test della funzionalità in alcune aree degli Stati Uniti, poiché la società ha imparato come affrontare i problemi derivanti dall'analisi dell'audio in tempo reale.
L'importanza della moderazione dei contenuti
La moderazione dei contenuti online è un lavoro difficile da svolgere. Lo abbiamo visto con Facebook, Twitter, Instagram e così via. Tra insulti, commenti odiosi o talvolta anche violenza o autolesionismo, la moderazione è estremamente importante per mantenere queste piattaforme sicure e i loro utenti protetti. C'è qualcosa nell'essere in grado di nascondersi dietro il presunto anonimato offerto da Internet che può far emergere il peggio in alcune persone.
Bene, Yubo continua a dimostrare che sta facendo tutto il possibile per aiutare a prevenirlo, soprattutto perché la sua base di utenti è molto più giovane. Secondo Yubo, il 99% della loro base di utenti è di età compresa tra 13 e 25 anni. Sebbene le molestie online non siano piacevoli da sopportare per nessuno, possono essere particolarmente dannose per gli adolescenti.
La tecnologia di moderazione di immagini e video esiste da un po' di tempo ed è stata implementata con varie fasi di successo. Moderazione audio, tuttavia, è rimasta una sfida importante, soprattutto con i live streaming. Che si tratti di un live streaming ripreso mentre si cammina per strada o di uno in cui qualcuno sta giocando a un videogioco, non ha molta importanza.
Come funziona la moderazione audio di Yubo
A partire da maggio 2022, Yubo ha avviato una fase di prova per la sua tecnologia di moderazione audio in varie aree degli Stati Uniti. Ora la fase successiva include la maggior parte delle regioni anglofone in cui Yubo ha un'ampia base di utenti per consentire all'azienda di raccogliere informazioni migliori sul nuovo strumento di sicurezza.
Sebbene sia ancora nuova, questa è una tecnologia che potrebbe finire per essere ampiamente utilizzata per rilevare la violenza o l'autolesionismo in futuro.
Yubo non sta facendo tutto da solo, ma piuttosto in collaborazione con Hive. Hive, se non ne hai sentito parlare, è un'azienda che crea e fornisce API di moderazione dei contenuti per elaborare immagini e video quasi in tempo reale.
La tecnologia implementata da Yubo funziona registrando e trascrivendo frammenti di audio di 10 secondi in live streaming di 10 o più persone. Il testo viene immediatamente analizzato dall'intelligenza artificiale per rilevare eventuali parole o frasi che violano quelle dell'app Linee guida della comunità.
Aspetta, non si ferma qui. Sebbene l'intelligenza artificiale possa essere eccezionale nel rilevare tali cose, è ancora lontana dal punto in cui può distinguere tra usi problematici effettivi e falsi flag.
I falsi flag possono essere, ad esempio, canzoni in sottofondo o un linguaggio giocoso non malintenzionato.
Quindi, è qui che entrano in gioco gli specialisti della sicurezza di Yubo, che vengono coinvolti per indagare sugli incidenti segnalati. Gli esseri umani sono quelli che possono determinare se una situazione richiede un'escalation o meno se ci sono azioni questo dovrebbe essere preso contro le persone che usano un linguaggio volgare, o anche se è necessario coinvolgere le forze dell'ordine In.
Se il live streaming è perfettamente a posto, nessuna trascrizione viene rivista o conservata oltre il limite di 24 ore, quindi rimane tutto privato; o privato come può esserlo un live streaming con più di 10 persone.
Tuttavia, se gli algoritmi rilevano minacce violente, incitamento all'odio o autolesionismo, ad esempio, le trascrizioni vengono archiviate per un massimo di un anno. Questa è, ovviamente, una misura di sicurezza per la società nel caso in cui le forze dell'ordine richiedano le informazioni o la società stessa necessiti dei dettagli per ulteriori indagini interne.
Il direttore operativo di Yubo, Marc-Antoine Durand, vede l'espansione di moderazione audio tecnologia come elemento chiave nell'evoluzione della sicurezza online nell'intero settore.
"C'è ancora molto da fare nell'area del rilevamento vocale, ma siamo orgogliosi di aprire un percorso per i nostri colleghi essere il primo a lanciare la moderazione audio con Hive e contribuire a rendere questo strumento più affidabile ed efficace attraverso questa prova", Durand disse.
Ovviamente, le piattaforme social non vogliono il bullismo dilagante, l'incitamento all'odio e i commenti che incitano alla violenza poiché allontanerebbero altri utenti. L'implementazione di tale tecnologia di moderazione è un ottimo strumento per proteggere gli utenti e anche per garantire la crescita e il successo di Yubo a lungo termine.
