Twitter découvre maintenant que son Intelligence Artificielle (IA) fait une discrimination entre les peaux blanches et les peaux noires. Ainsi, une préférence pour les femmes que pour les hommes. Selon Twitter, ces distinctions se constatent pendant le recadrage automatique des images effectué par le système.

Un Système soi-disant raciste

En septembre 2020, un employé d’université témoigne que s’il publie 2 photos de lui et de son collègue, l’aperçu de Twitter se penchait surtout sur l’homme blanc que l’homme noir, peu importe la première photo publiée.

Aussi des utilisateurs ont remarqué la même chose sur la photo de l’ancien président américain Barack Obama et le sénateur Mitch McConnell. Deux hommes de différentes origines. Quand les 2 ont été publiés sur une seule photo, l’aperçu se focalisait plutôt sur McConnell que sur Obama jusqu’à ce que les membres cliquent sur la photo entière.

Selon les explications, l’algorithme en 2018 a été mis en place pour suivre les données oculaires humaines.  Mais Twitter ignore la cause du recadrage. Certains facteurs compliqués pourraient être l’origine de ce problème selon eux. 

Les résultats des tests ont dégagé une différence de: 2% en faveur des hommes blancs face aux hommes noirs ; 7% en faveur des femmes blanches comparés aux femmes noires ; 8% en faveur des femmes par rapport aux hommes ; 4% en faveur des blancs par rapport aux noires des 2 sexes.

Les suivis faits par le réseau social ont confirmé le fait. Du coup, Twitter travaille sur ce problème suite à la déclaration des utilisateurs depuis quelques mois.

Mise à jour

D’après les informations, l’entité règle le problème avec un système de mise à jour des applications mobiles. Ceci donne un aperçu très précis des photos.

La société a dorénavant arrêté l’utilisation du format standard 16 :9 ou 4 :3 mais cherche un nouveau recadrage plus vrai et plus nature. Twitter laisse librement aux gens de recadrer leurs photos. « L'une de nos conclusions est que tout ce qui se trouve sur Twitter n'est pas un bon candidat pour un algorithme, et dans ce cas, la façon de recadrer une image est une décision qu'il vaut mieux laisser aux gens », a conclu le directeur du génie logiciel de Twitter, Rumman Chowdhury.

L’application mobile a été signalée au premier face à ce problème de recadrage. Mais Twitter ne va pas se contenter de résoudre seulement les applications, mais il compte aussi, régler le recadrage algorithmique de la version Web dans le mois prochain.

Des objectifs d’améliorations des médias sur Twitter ont été mis en place, mais l’équipe va commencer par la résolution de cadrage.

Santie

Crédit photo :  Bourse, Numerama, France Inter

Voir la traduction