Taylor Swift est victime de deepfakes sur X, ses fans réagissent en masse

La popstar américaine Taylor Swift a récemment été la victime d'une campagne massive de spams et de deepfakes, qui ont inondé les réseaux, en particulier X. Le phénomène a circulé durant de nombreuses heures avant que les fans de la chanteuse montent au créneau.

les deepfakes pornographiques, fléau des réseaux 

Véritable fléau sur les réseaux, les deepfakes pornographiques se manifestent par la mise en scène des personnes dans des vidéos ou des photos truquées à l’aide de l’intelligence artificielle. Bien souvent, les cibles sont des femmes, célèbres ou non. Les créatrices de contenus Maghla ou Juju Fitcats, (partenaire de Tibo Inshape), ou encore les journalistes Salomé Saqué et Rana Ayyub en ont été victime. Une forme de cyberharcèlement qui à pour but d'humilier bêtement des personnalités, ou de faire pression sur des journalistes pour qu’ils ne sortent pas des affaires, ou au contraire, pour se venger suite à des révélations. Le phénomène pullule sur les réseaux, et en particulier sur X (anciennement Twitter). Une recrudescence liée au fait qu'Elon Musk a largement coupé les effectifs de modérateurs depuis son rachat de la plateforme en 2022.

Taylor Swift victime de la viralité des deepfakes à caractère pornographique 

Cette fois-ci, c'est au tour de Taylor Swift d'être la victime de deepfakes à caractère pornographique. Sur X, la chanteuse fait en effet l'objet d'une vaste campagne de spam autour d'une fausse vidéo à caractère pornographique, dans lequel elle est mise en scène.

Selon The Verge, l'une de ces vidéos a atteint les 45 millions de vues et a été repostée plus de 24.000 fois avec des centaines de milliers de J'aime. Si depuis, le compte concerné a été banni de la plateforme, la publication est restée en ligne durant près de 24 heures avant que la décision ne soit prise. Problème : cette latence a permis à des centaines d’autres comptes d’enregistrer et de repartager ces images sur X et sur d’autres plateformes. D’après le site 404 Media, une bonne partie de ces montages illégaux viendraient d’un groupe Telegram dédié à la production de fausses images via une l'IA Microsft Designer.

Le réseau social détenu par Elon Musk a depuis communiqué sur le sujet, expliquant qu'il n'était pas autorisé de partager du contenu sexuel non consensuel. notamment des types de contenus « employant des algorithmes d’intelligence artificielle pour créer des images contenant de vraies personnes ».

En réponse, les fans de la star de la pop, les Swifties sont venus à la rescousse de leur idole en appelant à signaler massivement ces « contenus pornographiques » sur les réseaux sociaux et en postant d'autres photos, elle bien réelles, de la chanteuse.

Bringing her speech back#ProtectTaylorSwift #Swifties #TaylorSwift pic.twitter.com/348iRjoiIa

January 26, 2024

Le phénomène des deepfakes n'est pas prêt d'être endigué tant que la modération ne sera pas renforcé sur les réseaux, et tant qu'une action sur la plan législatif ne sera pas plus concrète. En France, le projet de loi visant à sécuriser et réguler l’espace numérique inscrit comme délit dans le Code pénal « le fait de porter à la connaissance du public ou d’un tiers, par quelque voie que ce soit, le montage à caractère sexuel réalisé avec les paroles ou l’image d’une personne sans son consentement. » et prévoit deux ans d’emprisonnement et jusqu’à 60 000 € d’amende pour les auteurs de ces contenus. Mais le problème est certainement plus profond. Le fléau des deepfakes porno s'inscrit dans le débat autour du contrôle de l'humain sur l'IA et sur l'expansion de cette dernière.