Twitter reconnait que son algorithme est raciste et sexiste, et demande l'aide de ses utilisateurs

10 août 2021 à 16h40 dans Insolite

Il y a quelques semaines, Twitter actait du fait que son algorithme avait un biais raciste et sexiste. Afin de devenir plus inclusif, le réseau social a demandé l'aide de ses utilisateurs. Explications. 

Twitter reconnait que son algorithme est raciste et sexiste, et demande l

Gagnez de l'argent en aidant Twitter

En 2018, Twitter avait lancé un nouvel algorithme de recadrage d'images, afin d'éviter d'encombrer les fils Twitter, en réduisant notamment leur taille. Cependant, en mai dernier, le réseau social, sous la pression de ses utilisateurs, a été forcé de reconnaître que son algorithme avait un biais raciste, en faveur des blancs. Selon une étude interne, l'algorithme privilégierait les personnes blanches (+4%) par rapport aux autres couleurs de peau, et les femmes (+8%) par rapport aux hommes. 

De même, la langue incrustée dans une photo (comme pour les memes) serait déterminante pour l'algorithme, qui privilégie la langue anglaise à d'autres langues, telles que l'arabe. 

Après ce tollé médiatique, Twitter a décidé d'inclure sa communauté dans l'optimisation de son algorithme défectueux, en annonçant la création d'un concours, l'Algorithmic Bias Bounty Challenge. Le concept est assez simple : aider Twitter à déceler des biais racistes et sexistes dans son algorithme, avec à la clé une récompense pouvant aller jusqu'à 3 500 euros (pour le premier prix). 

Rumman Chowdhury, la directrice de l'équipe d'éthique, de transparence et de responsabilité des algorithmes, et qui est à l'origine de ce concours, a expliqué que la plateforme n'est pas en mesure de relever toute seule ces défis, et que c'est bien souvent après coup que les géants du net se rendent compte que leurs algorithmes peuvent blesser une ou plusieurs communautés. Surtout, Chowdhury ne cache pas son ambition :

Avec ce nouveau défi, nous visons à créer un précédent sur Twitter et dans l’industrie, pour l’identification proactive et collective des dommages causés involontairement par les algorithmes.

Pour participer au défi, les participants devaient construire une évaluation à partir du modèle de recadrage d'image et du code utilisé, que Twitter a partagé. Les résultats ont, été annoncés le dimanche 8 août, lors de l'atelier DEF CON AI Village. 

Le gagnant du concours organisé par Twitter est un étudiant suisse, Bogdan Kulynych, qui a utilisé une intelligence artificielle afin de générer plusieurs visages réalistes, à partir d'une même souche, et en utilisant plusieurs variables (âge, couleur de peau, sexe, poids, etc), et ainsi permettre de déceler les variables que l'algorithme de Twitter privilégie. 

Le moins que l'on puisse dire, c'est que Twitter a utilisé une technique de communication pour le moins efficace. Car en intégrant ses utilisateurs dans la recherche de failles de son algorithme, l'entreprise se prémunie contre d'éventuels scandales. En effet, l'utilisateur mécontent qui dénonce les biais racistes et sexistes de l'algorithme devient de ce fait un allié de Twitter, qui cherche ouvertement à avoir l'algorithme le plus éthique possible. 

Salut, c'est Gaëtan. Diplômé d'un Master en Langues Modernes, je suis un grand passionné de Culture Pop. J'ai une affection toute particulière pour la culture des années 80/90. Grand lecteur, je suis aussi cinéphage et sérivore (un régime alimentaire des plus équilibrés !). Passionné par le Moyen-Âge, je suis un grand fan de Fantasy. Sinon, j'adore le cinéma coréen, la littérature japonaise, les séries et les comics britanniques. Ah, j'oubliais : pour savoir s'il y a du vent, faut mettre son doigt dans le cul du coq.

Articles de Gaetan Desrois
count
Commentaires (5)
Alors je suis tjs content quand une entreprise fait des efforts, mais je comprends pas trop la polémique... 4%, c'est que dalle non ?
photo de profil de Old Yoda Par Old Yoda, il y a 3 ans Répondre
Les gens ne rageaient pas par rapport à 4%. Ils rageaient lorsqu'une photo a fait le tour de Twitter où un noir et un blanc ne se faisaient pas recadrer équitablement, c'est ENSUITE que Twitter a fait une enquête interne et a remarqué qu'il y a une différence de 4% (différence complètement imperceptible donc, sans cette photo particulièrement touchée par l'algo ça n'aurait jamais été découvert)
photo de profil de Pris Par Pris, il y a 3 ans (en réponse à Old Yoda) Répondre
Twitter c’est pas le truc quand tu cliques sur un article Hitek y’a rien qui s’affiche ?
photo de profil de Baby Soda Par Baby Soda, il y a 3 ans Répondre
L'image de l'article est de très mauvais goûts encore une fois, rester neutre politiquement c'est en option chez hitek ?
photo de profil de zbeubax Par zbeubax, il y a 3 ans Répondre
Tout ceux qui fréquentent régulièrement ce site savent que sa ligne éditoriale est proche de celle de C-news, les espaces commentaires en sont souvent l'illustration d'ailleurs.
photo de profil de Murge Par Murge, il y a 3 ans (en réponse à zbeubax) Répondre
Laisser un commentaire

Vous répondez à . Annuler