Twitter sta cercando di determinare perché la sua funzione di anteprima delle foto mostra segni di pregiudizi razziali. Diversi utenti hanno scoperto che i volti neri avevano maggiori probabilità di essere ritagliati dalle anteprime delle foto rispetto ai volti bianchi.
Un difetto nell'algoritmo di Twitter
Quando vedi un'immagine su Twitter, è solo un'anteprima, devi fare clic su di essa per vedere l'intera immagine. Twitter utilizza un algoritmo per ritagliare le foto, dettando ciò che vedrai nelle anteprime delle immagini.
Nel 2018, Twitter ha annunciato la sua funzione di ritaglio automatico intelligente in un post su Blog di Twitter. Questa funzione utilizza la "salienza" per perfezionare le parti più importanti delle foto, quindi ritaglia le anteprime delle foto di conseguenza.
Gli utenti di Twitter hanno scoperto che la rete neurale della piattaforma potrebbe avere un pregiudizio razziale. Un utente ha pubblicato una foto del senatore americano Mitch McConnell insieme all'ex presidente Barack Obama.
Sto provando un orribile esperimento ...
- Tony "Abolish ICE" Arcieri 🦀 (@bascule) 19 settembre 2020
Quale sarà l'algoritmo di Twitter: Mitch McConnell o Barack Obama? pic.twitter.com/bR1GRyCkia
L'anteprima dell'immagine ritaglia palesemente il volto di Obama, anche quando il suo volto è posizionato nella parte superiore della foto. Quando lo stesso utente ha provato a invertire i colori dell'immagine, il volto di Obama è finalmente apparso nell'anteprima dell'immagine.
Altri utenti hanno iniziato a condurre i propri esperimenti. Di volta in volta, gli utenti hanno scoperto che l'algoritmo sembrava preferire costantemente i volti bianchi rispetto ai volti neri.
Liz Kelley, un membro del team di comunicazione di Twitter, ha inviato un Tweet in risposta ai risultati degli utenti di Twitter. Ha notato che mentre il team di Twitter ha già testato l'algoritmo per i pregiudizi, avrebbe dovuto indagare ulteriormente.
grazie a tutti coloro che lo hanno sollevato. abbiamo testato i pregiudizi prima di spedire il modello e non abbiamo trovato prove di pregiudizi razziali o di genere nei nostri test, ma è chiaro che abbiamo più analisi da fare. renderemo il nostro lavoro open source in modo che altri possano rivedere e replicare. https://t.co/E6sZV3xboH
- liz kelley (@lizkelley) 20 settembre 2020
Tutte queste scoperte derivano dal Tweet di un utente su un file Problema di chiamata con zoom. Zoom continuamente non è riuscito a rilevare il viso del suo amico nero quando ha cercato di utilizzare uno sfondo virtuale. Quando l'utente si è rivolto a Twitter per pubblicare screenshot del problema, Twitter ha ritagliato il suo amico nero dall'anteprima dell'immagine.
Eliminare i pregiudizi da Twitter
Sebbene tutti questi esperimenti siano informali, sembrano evidenziare un problema reale. Twitter dovrà sicuramente dare un'occhiata più da vicino alla sua funzione di ritaglio automatico e vedere se ha un pregiudizio razziale radicato.
Detto questo, l'algoritmo di ritaglio automatico di Twitter non è l'unica funzionalità di Twitter che è stata criticata. Dopotutto, anche molti utenti non sono fan dell'algoritmo della piattaforma che organizza automaticamente il tuo feed.
I feed algoritmici servono solo i social network. Ecco come passare ai feed cronologici su Twitter, Instagram e Facebook.
- Social media
- Notizie tecniche
Emma è Senior Writer e Junior Editor per le sezioni Internet e Creative. Si è laureata con una laurea in inglese e combina il suo amore per la tecnologia con la scrittura.
Iscriviti alla nostra Newsletter
Iscriviti alla nostra newsletter per suggerimenti tecnici, recensioni, ebook gratuiti e offerte esclusive!
Ancora un passo…!
Conferma il tuo indirizzo e-mail nell'e-mail che ti abbiamo appena inviato.