Rechercher Annuler

Twitter reconnait que son algorithme est raciste et sexiste, et demande l'aide de ses utilisateurs

De Gaetan Desrois - Posté le 10 août 2021 à 16h40 dans Insolite

Il y a quelques semaines, Twitter actait du fait que son algorithme avait un biais raciste et sexiste. Afin de devenir plus inclusif, le réseau social a demandé l'aide de ses utilisateurs. Explications. 

Gagnez de l'argent en aidant Twitter

En 2018, Twitter avait lancé un nouvel algorithme de recadrage d'images, afin d'éviter d'encombrer les fils Twitter, en réduisant notamment leur taille. Cependant, en mai dernier, le réseau social, sous la pression de ses utilisateurs, a été forcé de reconnaître que son algorithme avait un biais raciste, en faveur des blancs. Selon une étude interne, l'algorithme privilégierait les personnes blanches (+4%) par rapport aux autres couleurs de peau, et les femmes (+8%) par rapport aux hommes. 

De même, la langue incrustée dans une photo (comme pour les memes) serait déterminante pour l'algorithme, qui privilégie la langue anglaise à d'autres langues, telles que l'arabe. 

Après ce tollé médiatique, Twitter a décidé d'inclure sa communauté dans l'optimisation de son algorithme défectueux, en annonçant la création d'un concours, l'Algorithmic Bias Bounty Challenge. Le concept est assez simple : aider Twitter à déceler des biais racistes et sexistes dans son algorithme, avec à la clé une récompense pouvant aller jusqu'à 3 500 euros (pour le premier prix). 

Rumman Chowdhury, la directrice de l'équipe d'éthique, de transparence et de responsabilité des algorithmes, et qui est à l'origine de ce concours, a expliqué que la plateforme n'est pas en mesure de relever toute seule ces défis, et que c'est bien souvent après coup que les géants du net se rendent compte que leurs algorithmes peuvent blesser une ou plusieurs communautés. Surtout, Chowdhury ne cache pas son ambition :

Avec ce nouveau défi, nous visons à créer un précédent sur Twitter et dans l’industrie, pour l’identification proactive et collective des dommages causés involontairement par les algorithmes.

Pour participer au défi, les participants devaient construire une évaluation à partir du modèle de recadrage d'image et du code utilisé, que Twitter a partagé. Les résultats ont, été annoncés le dimanche 8 août, lors de l'atelier DEF CON AI Village. 

Le gagnant du concours organisé par Twitter est un étudiant suisse, Bogdan Kulynych, qui a utilisé une intelligence artificielle afin de générer plusieurs visages réalistes, à partir d'une même souche, et en utilisant plusieurs variables (âge, couleur de peau, sexe, poids, etc), et ainsi permettre de déceler les variables que l'algorithme de Twitter privilégie. 

Le moins que l'on puisse dire, c'est que Twitter a utilisé une technique de communication pour le moins efficace. Car en intégrant ses utilisateurs dans la recherche de failles de son algorithme, l'entreprise se prémunie contre d'éventuels scandales. En effet, l'utilisateur mécontent qui dénonce les biais racistes et sexistes de l'algorithme devient de ce fait un allié de Twitter, qui cherche ouvertement à avoir l'algorithme le plus éthique possible. 

Une erreur ?

Mots-Clés : twitterreseaux sociauxconcoursPolémiqueracismesexismephotos

Cliquez sur une phrase de l'article pour proposer une correction.

J'ai compris !

Commentaires (5)

Par Old Yoda, il y a 5 mois :

Alors je suis tjs content quand une entreprise fait des efforts, mais je comprends pas trop la polémique... 4%, c'est que dalle non ?

Répondre à ce commentaire

Par Pris, il y a 5 mois (en réponse à Old Yoda):

Les gens ne rageaient pas par rapport à 4%. Ils rageaient lorsqu'une photo a fait le tour de Twitter où un noir et un blanc ne se faisaient pas recadrer équitablement, c'est ENSUITE que Twitter a fait une enquête interne et a remarqué qu'il y a une différence de 4% (différence complètement imperceptible donc, sans cette photo particulièrement touchée par l'algo ça n'aurait jamais été découvert)

Répondre à ce commentaire

Par Baby Soda, il y a 5 mois via l'application Hitek :

Twitter c’est pas le truc quand tu cliques sur un article Hitek y’a rien qui s’affiche ?

Répondre à ce commentaire

Par zbeubax, il y a 5 mois :

L'image de l'article est de très mauvais goûts encore une fois, rester neutre politiquement c'est en option chez hitek ?

Répondre à ce commentaire

Par Murge, il y a 5 mois (en réponse à zbeubax):

Tout ceux qui fréquentent régulièrement ce site savent que sa ligne éditoriale est proche de celle de C-news, les espaces commentaires en sont souvent l'illustration d'ailleurs.

Répondre à ce commentaire

Laisser un commentaire

Votre adresse e-mail ne sera pas visible. Pour avoir une image de profil, utilisez le service gravatar.

Tu es membre premium car tu as commandé une HITEKBOX. Tu peux donc ajouter des smileys et des images.