Twitter rivela che ha abbandonato il ritaglio dell'IA a causa della razza e del pregiudizio di genere

La prima volta che abbiamo sentito l'idea che l'algoritmo di ritaglio delle immagini di Twitter potesse avere alcuni pregiudizi è stato nel settembre 2020. L'ingegnere crittografico Tony Arcieri ha caricato due immagini con il leader della maggioranza al Senato Mitch McConnell e l'ex presidente Barack Obama, e l'IA è stata ritagliata sul viso di McConnell entrambe le volte.

Quando la controversia alla fine ha raggiunto i ragazzi di Twitter, la società ha promesso di analizzare il suo modello. Infine, possiamo leggere questi risultati.

Twitter condivide i risultati della sua analisi dell'algoritmo

All'inizio di maggio, Twitter ha finalmente implementato le anteprime delle immagini a grandezza naturale sulle sue sequenze temporali mobili. Un post sul blog di Twitter ha rivelato che l'app ha eliminato il suo algoritmo di ritaglio delle immagini dopo che un'analisi ha mostrato che aveva pregiudizi basati sulla razza e sul genere.

La piattaforma ha iniziato a utilizzare un algoritmo di salienza nel 2018 per ritagliare le sue immagini. Twitter afferma che i modelli di salienza sono addestrati sui dati di tracciamento dell'occhio umano, che vengono quindi utilizzati da algoritmo per stimare quali soggetti / elementi nell'immagine ritiene siano più probabilmente importanti per la maggior parte persone.

L'algoritmo quindi fornirà un punteggio di salienza per tutte le parti dell'immagine prima di scegliere il punto con il punteggio più alto come centro del ritaglio.

Dopo aver eseguito un test quantitativo per verificare potenziali pregiudizi, il team ha scoperto che l'algoritmo di salienza sembrava favorire le donne rispetto agli uomini e gli individui bianchi rispetto ai neri.

Twitter ha anche testato l'algoritmo per lo "sguardo maschile", ma non è stata trovata alcuna prova di bias di oggettivazione.

Anche se l'algoritmo di salienza fosse regolato per riflettere la perfetta uguaglianza tra i sottogruppi di razza e genere, noi [Twitter] siamo preoccupati dal danno rappresentativo dell'algoritmo automatizzato quando le persone non sono autorizzate a rappresentare se stesse come desiderano sul file piattaforma. La salienza contiene anche altri potenziali danni al di là dello scopo di questa analisi, inclusa l'insensibilità alle sfumature culturali.

Considerando i compromessi tra la velocità e la coerenza del ritaglio automatizzato e i suoi rischi, Twitter afferma che il suo team ha capito che come ritagliare un'immagine è una decisione presa meglio dalle persone, no algoritmi.

Relazionato: Tendenze tecnologiche che stanno già cambiando il futuro

Twitter elimina il ritaglio automatico delle immagini

Twitter non utilizza più l'algoritmo di salienza e ora mostra le foto con proporzioni standard per intero sia su iOS che su Android. Quando crei un tweet, scoprirai che il nuovo aggiornamento include anche una vera anteprima delle immagini caricate, in modo da sapere come apparirà tutto una volta pubblicato.

Se sei interessato a leggere il documento accademico dello studio, puoi trovarlo su arXiv.org. Puoi anche trovare il codice di Twitter per l'analisi su GitHub.

Come caricare e visualizzare immagini 4K su Twitter

L'app Twitter ora ti consente di caricare e visualizzare immagini in 4K. Ecco come modificare le tue impostazioni.

Leggi Avanti

Circa l'autore