Gli utenti di Twitter scoprono potenziali pregiudizi razziali nell'algoritmo di ritaglio automatico

Twitter sta cercando di determinare perché la sua funzione di anteprima delle foto mostra segni di pregiudizi razziali. Diversi utenti hanno scoperto che i volti neri avevano maggiori probabilità di essere ritagliati dalle anteprime delle foto rispetto ai volti bianchi.

Un difetto nell'algoritmo di Twitter

Quando vedi un'immagine su Twitter, è solo un'anteprima, devi fare clic su di essa per vedere l'intera immagine. Twitter utilizza un algoritmo per ritagliare le foto, dettando ciò che vedrai nelle anteprime delle immagini.

Nel 2018, Twitter ha annunciato la sua funzione di ritaglio automatico intelligente in un post su Blog di Twitter. Questa funzione utilizza la "salienza" per perfezionare le parti più importanti delle foto, quindi ritaglia le anteprime delle foto di conseguenza.

Gli utenti di Twitter hanno scoperto che la rete neurale della piattaforma potrebbe avere un pregiudizio razziale. Un utente ha pubblicato una foto del senatore americano Mitch McConnell insieme all'ex presidente Barack Obama.

L'anteprima dell'immagine ritaglia palesemente il volto di Obama, anche quando il suo volto è posizionato nella parte superiore della foto. Quando lo stesso utente ha provato a invertire i colori dell'immagine, il volto di Obama è finalmente apparso nell'anteprima dell'immagine.

Altri utenti hanno iniziato a condurre i propri esperimenti. Di volta in volta, gli utenti hanno scoperto che l'algoritmo sembrava preferire costantemente i volti bianchi rispetto ai volti neri.

Liz Kelley, un membro del team di comunicazione di Twitter, ha inviato un Tweet in risposta ai risultati degli utenti di Twitter. Ha notato che mentre il team di Twitter ha già testato l'algoritmo per i pregiudizi, avrebbe dovuto indagare ulteriormente.

Tutte queste scoperte derivano dal Tweet di un utente su un file Problema di chiamata con zoom. Zoom continuamente non è riuscito a rilevare il viso del suo amico nero quando ha cercato di utilizzare uno sfondo virtuale. Quando l'utente si è rivolto a Twitter per pubblicare screenshot del problema, Twitter ha ritagliato il suo amico nero dall'anteprima dell'immagine.

Eliminare i pregiudizi da Twitter

Sebbene tutti questi esperimenti siano informali, sembrano evidenziare un problema reale. Twitter dovrà sicuramente dare un'occhiata più da vicino alla sua funzione di ritaglio automatico e vedere se ha un pregiudizio razziale radicato.

Detto questo, l'algoritmo di ritaglio automatico di Twitter non è l'unica funzionalità di Twitter che è stata criticata. Dopotutto, anche molti utenti non sono fan dell'algoritmo della piattaforma che organizza automaticamente il tuo feed.

Come (e perché) disabilitare i feed algoritmici su Twitter, Instagram e Facebook

I feed algoritmici servono solo i social network. Ecco come passare ai feed cronologici su Twitter, Instagram e Facebook.

Circa l'autore