Twitter reconnait que son algorithme est raciste et sexiste, et demande l'aide de ses utilisateurs
Il y a quelques semaines, Twitter actait du fait que son algorithme avait un biais raciste et sexiste. Afin de devenir plus inclusif, le réseau social a demandé l'aide de ses utilisateurs. Explications.
Gagnez de l'argent en aidant Twitter
En 2018, Twitter avait lancé un nouvel algorithme de recadrage d'images, afin d'éviter d'encombrer les fils Twitter, en réduisant notamment leur taille. Cependant, en mai dernier, le réseau social, sous la pression de ses utilisateurs, a été forcé de reconnaître que son algorithme avait un biais raciste, en faveur des blancs. Selon une étude interne, l'algorithme privilégierait les personnes blanches (+4%) par rapport aux autres couleurs de peau, et les femmes (+8%) par rapport aux hommes.
De même, la langue incrustée dans une photo (comme pour les memes) serait déterminante pour l'algorithme, qui privilégie la langue anglaise à d'autres langues, telles que l'arabe.
Après ce tollé médiatique, Twitter a décidé d'inclure sa communauté dans l'optimisation de son algorithme défectueux, en annonçant la création d'un concours, l'Algorithmic Bias Bounty Challenge. Le concept est assez simple : aider Twitter à déceler des biais racistes et sexistes dans son algorithme, avec à la clé une récompense pouvant aller jusqu'à 3 500 euros (pour le premier prix).
Rumman Chowdhury, la directrice de l'équipe d'éthique, de transparence et de responsabilité des algorithmes, et qui est à l'origine de ce concours, a expliqué que la plateforme n'est pas en mesure de relever toute seule ces défis, et que c'est bien souvent après coup que les géants du net se rendent compte que leurs algorithmes peuvent blesser une ou plusieurs communautés. Surtout, Chowdhury ne cache pas son ambition :
Avec ce nouveau défi, nous visons à créer un précédent sur Twitter et dans l’industrie, pour l’identification proactive et collective des dommages causés involontairement par les algorithmes.
Pour participer au défi, les participants devaient construire une évaluation à partir du modèle de recadrage d'image et du code utilisé, que Twitter a partagé. Les résultats ont, été annoncés le dimanche 8 août, lors de l'atelier DEF CON AI Village.
Le gagnant du concours organisé par Twitter est un étudiant suisse, Bogdan Kulynych, qui a utilisé une intelligence artificielle afin de générer plusieurs visages réalistes, à partir d'une même souche, et en utilisant plusieurs variables (âge, couleur de peau, sexe, poids, etc), et ainsi permettre de déceler les variables que l'algorithme de Twitter privilégie.
Le moins que l'on puisse dire, c'est que Twitter a utilisé une technique de communication pour le moins efficace. Car en intégrant ses utilisateurs dans la recherche de failles de son algorithme, l'entreprise se prémunie contre d'éventuels scandales. En effet, l'utilisateur mécontent qui dénonce les biais racistes et sexistes de l'algorithme devient de ce fait un allié de Twitter, qui cherche ouvertement à avoir l'algorithme le plus éthique possible.